Anthropic анхааруулав: AI ойрын 6–12 сард ухаалаг ТВ, робот тоос сорогч руу өөрөө тархах эрсдэлтэй

Anthropic-ийн судлаачид жижиг хэмжээний хиймэл оюуны загварууд ахуйн хэрэглээний төхөөрөмж дээр өөрсдийгөө ажиллуулж, цааш сүлжээгээр дамжин тархах боломжтойг туршилтаар харуулжээ.

Судлаач William Zhou болон Daniel Freeman нарын хийсэн туршилт нь уламжлалт компьютерын өттэй төстэй зарчмаар ажилласан байна. Гэхдээ тогтмол бичигдсэн хорт код тараахын оронд хиймэл оюуны загвар өөрөө шинэ төхөөрөмжийн орчинд дасан зохицож, өөрийгөө ажиллуулахыг оролдсон нь гол ялгаа байжээ.

Туршилтад 4 ГБ шуурхай санах ойтой, хямд үнэтэй 15 Android TV төхөөрөмж ашигласан байна. Судлаачид үйл явцыг сүлжээнд байгаа төхөөрөмжүүдийг илрүүлэх, хандалт авах, AI ажиллуулах орчин суулгах, дараагийн төхөөрөмж рүү тархах гэсэн хэд хэдэн үе шатанд хуваажээ.

Гэхдээ бодит эмзэг байдлыг ашиглан халдлага хийхийг зориуд туршаагүй байна. Үндсэн зорилго нь AI загвар өмнө нь танихгүй төхөөрөмж дээр өөрийгөө ажиллуулж чадах эсэхийг шалгах байсан аж.

GLM-5.2 хамгийн өндөр амжилт үзүүлжээ

Туршилтад оролцсон загваруудаас GLM-5.2 хамгийн сайн үр дүн үзүүлсэн байна. Тус загвар таван оролдлогын дөрөвт нь бүх үе шатыг амжилттай давж, туршилтын найман зангилаан дээр өөрийгөө ажиллуулж чаджээ.

Харин жижиг загварууд бүх процессыг бүрэн гүйцэтгэхээс илүүтэй тусдаа үе шатуудад илүү сайн ажилласан байна.

Судлаачид мөн өмнөх оролдлогын амжилт, алдааны мэдээллийг дараагийн хуулбаруудад дамжуулахад үр дүн мэдэгдэхүйц сайжирч байгааг ажиглажээ.

Тухайлбал Qwen3.5-9B загварын амжилтын түвшин хэд хэдэн “үе”-ийн дараа ойролцоогоор 45 хувиас 84 хувь хүртэл өссөн байна.

Гэхдээ энэ нь AI загвар өөрөө биологийн утгаар хувьсан өөрчлөгдсөн гэсэн үг биш. Харин өмнөх оролдлогын туршлага, алдаа, зөвлөгөөг дараагийн ажиллуулалтад дамжуулснаар мэдэгдэж буй алдааг давтахгүй болж, илүү үр дүнтэй ажилласан гэсэн үг юм.

“6–12 сарын дотор бодит эрсдэл болж магадгүй”

Anthropic-ийн гүйцэтгэх захирал Dario Amodei ийм төрлийн бие даасан системүүд ойрын 6–12 сарын хугацаанд бодит кибер аюул болж хувирах боломжтой гэж үзэж байгаагаа илэрхийлжээ.

Түүний анхааруулга нь ялангуяа олон төрлийн төхөөрөмжид дасан зохицож чаддаг төвлөрсөн бус ботнет үүсэх эрсдэлтэй холбоотой байна.

Ийм системүүд ухаалаг телевизор, робот тоос сорогч, гэрийн сүлжээний төхөөрөмж зэрэг харьцангуй сул хамгаалалттай техникүүдийг ашиглан тархах боломжтой байж болох юм.

Гэхдээ энэ нь зургаан эсвэл арван хоёр сарын дараа ахуйн төхөөрөмжүүд олноороо заавал халдлагад өртөнө гэсэн таамаг биш. Харин судлаачдын үзэж буйгаар технологийн боломж ийм түвшинд ойртож байгааг анхааруулсан эрсдэлийн үнэлгээ юм.

Ийм төрлийн аюулаас хамгаалах үндсэн арга нь өнөөгийн кибер аюулгүй байдлын зарчмаас төдийлөн өөр биш байна.

Төхөөрөмжийн программ хангамжийг цаг тухайд нь шинэчлэх, үйлдвэрийн стандарт нууц үгийг солих, сэжигтэй төхөөрөмжийг үндсэн сүлжээнээс тусгаарлах, халдварласан төхөөрөмжийн холболтыг шуурхай хаах нь хамгийн чухал хамгаалалт хэвээр байна.

Гэхдээ AI-д суурилсан ботнетүүд уламжлалт хорт программаас ялгаатай нь хамгаалалтын шинэ арга хэмжээнд илүү хурдан дасан зохицох боломжтой байж болохыг судлаачид анхааруулжээ.