Anthropic компани Claude хиймэл оюуныг биологийн судалгаанд ашигласан бөгөөд зарим үр дүн нь цаашид биологийн зэвсэг боловсруулахад ашиглагдах эрсдэлтэй байж болзошгүй таван тохиолдлыг илрүүлснээ мэдээлжээ.
Эдгээр тохиолдол 2025 оны арванхоёрдугаар сараас 2026 оны наймдугаар сарын хооронд бүртгэгдсэн байна. Anthropic хэрэглэгчид гэмт хэргийн зорилготой байсан гэх нотолгоо өөрт нь байхгүйг онцолсон ч эрсдэл өндөр гэж үзэн холбогдох аккаунтуудыг хаажээ.
Чикунгунья вирусын судалгаа аюулгүй байдлын системийн анхаарлыг татав
Нэг тохиолдол чикунгунья вирусын судалгаатай холбоотой байжээ.
Claude-ийн хамгаалалтын систем вирусын шинж чанарт өөрчлөлт оруулах туршилтын санхүүжилтийн өргөдөл бэлтгэхтэй холбоотой хүсэлтийг хаасан байна.
Anthropic-ийн анхаарлыг нэмэгдүүлсэн өөр нэг хүчин зүйл нь уг судалгаа төрийн хөтөлбөр болон цэрэг-иргэний хамтарсан шинжлэх ухааны орчинтой холбоотой байсан явдал аж.
Дараа нь тус компани Claude-ийн татгалзсан биологийн хүсэлтүүдийг хамгаалалтын бодлого нь сул өөр AI загварууд руу дамжуулдаг зуучлагч платформ байсныг илрүүлжээ.
Шувууны томуу болон ортопоксвирусын судалгаанд Claude ашигласан байна
Хоёр дахь тохиолдол өндөр эмгэг төрүүлэгч шувууны томуутай холбоотой байв.
Нэгэн судлаач Claude-ийг хэдэн долоо хоногийн турш туршилт төлөвлөх, өгөгдөл шинжлэх болон судалгааны үр дүнг тайлбарлахад ашигласан гэж Anthropic мэдээлжээ.
Өөр нэг хэрэглэгч ортопоксвирусын судалгааны өргөдөл бэлтгэхдээ Claude-ийн тусламж авсан байна. Энэ бүлгийн вируст цэцэг өвчин болон mpox-ийг үүсгэдэг вирусууд багтдаг.
Уг тохиолдолд Claude судалгааны таамаг боловсруулах, туршилтын зохион байгуулалт төлөвлөх, статистикийн аргачлал гаргахад ашиглагджээ.
Эдгээр хэрэглээ нь дангаараа хорлонтой зорилгыг нотлохгүй ч өндөр эрсдэлтэй биологийн чиглэлтэй холбогдсон тул Anthropic нэмэлт хяналт шаардлагатай гэж үзсэн байна.
Хор болон токсинтой холбоотой хоёр тохиолдол бүртгэгджээ
Үлдсэн хоёр тохиолдол хор, токсинтой холбоотой судалгаанд хамаарчээ.
Нэг судлаач хорын пептидийн мэдээллийн сан бүрдүүлж, эмчилгээний болон хортой хэрэглээний аль алинд ашиглагдах боломжтой молекулуудыг оновчлох ажилд Claude ашигласан байна.
Өөр нэг тохиолдолд төрийн судалгааны хөтөлбөрийн хүрээнд токсинуудыг компьютерийн аргаар дахин загварчлах ажилд AI ашиглажээ.
Anthropic-ийн мэдээлснээр зарим тайланд хэрэглэгч судалж буй бодисын нарийн нэр, тодорхойлолтыг зориудаар нуух хүсэлт гаргаж байсан нь нэмэлт эргэлзээ төрүүлсэн байна.
“Нэг нэг хүсэлтийг шүүх нь хангалтгүй болсон”
Anthropic орчин үеийн AI загварууд нарийн төвөгтэй биологийн даалгаврыг өмнөхөөсөө илүү сайн гүйцэтгэх болсон тул зөвхөн тус бүрийн хүсэлтийг шүүх улам хангалтгүй болж байгааг хүлээн зөвшөөрчээ.
Учир нь нэг ижил судалгаа эмчилгээ, оношлогоо зэрэг хууль ёсны зорилготой байж болохын зэрэгцээ буруу хэрэглээнд орвол ноцтой эрсдэл үүсгэх боломжтой байдаг.
Өөрөөр хэлбэл, ашигтай шинжлэх ухааны судалгаа болон аюултай хэрэглээний хоорондох хил олон тохиолдолд маш бүдэг байдаг гэж компани үзэж байна.
Мөрдөн шалгалтын дараа Anthropic холбогдох аккаунтуудыг хааж, хамгаалалтын системээ чангатган, зарим мэдээллийг төрийн байгууллага болон AI салбарын түншүүдтэй хуваалцжээ.
Claude-г кибер тагнуулд ч өргөн ашигласан гэх мэдээлэл гарчээ
Тус тайланд биологийн эрсдэлээс гадна Claude-ийг кибер тагнуулын ажиллагаанд өргөн ашигласан нэг кампанит ажлыг мөн дурдсан байна.
Anthropic уг үйл ажиллагааг олон нийтэд Midnight Blizzard нэрээр танигдсан бүлгийн арга барилтай төстэй гэж үзжээ.
Энэ кампанит ажлын бай болсон байгууллагын тоо 20-иос давсан бөгөөд ихэнх нь Украин болон Европт байрладаг төрийн байгууллага, дипломат бүтэц, батлан хамгаалахын салбарын компаниуд байсан гэж мэдээлсэн байна.
Ялангуяа Украины төрийн байгууллагууд болон цэргийн дроны технологийн нийлүүлэлтийн сүлжээ рүү халдагчид илүү их анхаарал хандуулсан гэж Anthropic тайлбарлажээ.
Ийнхүү Claude-тай холбоотой сүүлийн тохиолдлууд AI-ийн боломж нэмэгдэхийн хэрээр зөвхөн хэрэглэгчийн нэг удаагийн асуултыг шалгахаас гадна тухайн хэрэглээний нийт нөхцөл, зорилго, үргэлжилсэн үйл ажиллагааг хянах шаардлага өсөн нэмэгдэж байгааг харуулж байна.
