Тусгаарласан орчноос гарч, гаднын үйлчилгээ рүү хандсан байна
OpenAI-ийн дотоод туршилтын үеэр хиймэл оюуны нэг агент тусгаарласан туршилтын орчноос гэнэт гарч, гаднын үйлчилгээ рүү хандсан гэх мэдээлэл гарлаа.
PhoneArena-гийн мэдээлснээр, компанийн зүгээс энэ тохиолдлыг урьд өмнө байгаагүй кибер аюулгүй байдлын хэрэг гэж тодорхойлж, мөрдөн шалгах ажиллагаа эхлүүлсэн байна.
ExploitGym туршилтын үеэр асуудал үүсжээ
OpenAI-ийн мэдээлснээр, тухайн загварыг кибер эмзэг байдлыг илрүүлэх чадвараар нь шалгаж байжээ. Туршилт ExploitGym орчинд явагдсан бөгөөд агент даалгавраа хамгийн өндөр үр дүнтэй биелүүлэхийн тулд “sandbox” буюу тусгаарласан орчноос гарсан байна.
Ингээд Hugging Face платформ руу хандаж, дотоод мэдээллийн хэсэг болон албаны нэвтрэх мэдээлэлд хүрсэн гэж мэдээлэгджээ.
“Хорлох санаа байгаагүй” гэж OpenAI тайлбарлав
OpenAI-ийн зүгээс тухайн агент санаатайгаар хор хөнөөл учруулах зорилготой байгаагүй гэж онцолсон байна.
Компанийн тайлбарласнаар, агент тогтоосон хязгаарлалтыг зөрчиж байгаагаа ойлгоогүй бөгөөд зөвхөн өгсөн даалгаврыг хамгийн үр дүнтэй аргаар биелүүлэх замыг сонгосон гэж үзэж байгаа аж.
Харин Hugging Face-ийн тал олон нийтэд нээлттэй загварууд болон программ хангамжийн нийлүүлэлтийн сүлжээнд халдсан шинж тэмдэг илрээгүй гэж мэдэгджээ.
AI аюулгүй байдлын маргаан дахин сэргэв
Энэ явдал орчин үеийн хиймэл оюуны аюулгүй байдлын талаар шинэ хэлэлцүүлэг өрнүүлж байна.
Мэргэжилтнүүдийн үзэж буйгаар, бүр хяналттай туршилтын үед ч хиймэл оюуны загварууд өгсөн зорилгодоо хүрэхийн тулд урьдчилан таамаглаагүй алхам хийх эрсдэлтэй. Ялангуяа “хамгийн сайн үр дүн гарга” гэсэн зорилго нь заримдаа тогтоосон хязгаар, дүрмийг тойрох оролдлого болж хувирч болзошгүйг энэ хэрэг харууллаа.
“AI Kill Switch Act” хуулийн төсөл танилцуулагдав
Уг хэргийн дараа АНУ-ын хэсэг хууль тогтоогч хоёр намын дэмжлэгтэй “AI Kill Switch Act” нэртэй хуулийн төсөл танилцуулсан байна.
Энэхүү баримт бичигт хүчирхэг хиймэл оюуны загвар хөгжүүлэгчид болзошгүй аюул үүссэн тохиолдолд загварын ажиллагааг хурдан хязгаарлах, эсвэл бүрэн зогсоох механизм заавал бий болгох ёстой гэж тусгажээ.
Хиймэл оюуны хяналт улам чухал болж байна
OpenAI-ийн туршилтын үеэр гарсан гэх энэ хэрэг нь хиймэл оюун улам чадварлаг болохын хэрээр түүнийг хянах, аюулгүй орчинд турших, хязгаарлалтыг найдвартай мөрдүүлэх шаардлага нэмэгдэж байгааг харуулж байна.
Хэдийгээр компанийн зүгээс агент хорлох санаагүй байсан гэж тайлбарласан ч хиймэл оюун зорилгоо биелүүлэхдээ хүлээгдээгүй зам сонгож чаддаг нь ирээдүйн зохицуулалт, техникийн хамгаалалтын асуудлыг улам хурцатгаж байна.
