OpenAI өөрийн хиймэл оюуны хэрэгслүүдийг шаардлагатай үед автоматаар зогсоох шинэ хамгаалалтын систем хөгжүүлж байна. Тус компани энэ талаар АНУ-ын хоёр хууль тогтоогчид мэдээлсэн бөгөөд шийдвэр нь туршилтын үеэр нэгэн хиймэл оюуны агент тогтоосон хязгаарлалтаас давж ажилласан тохиолдлын дараа гарчээ.
Шинэ механизмын гол зорилго нь хиймэл оюуны систем аюултай эсвэл урьдчилан тооцоолоогүй үйлдэл хийж эхэлбэл түүнийг богино хугацаанд бүрэн зогсоох боломж бүрдүүлэх юм.
Туршилтын үеэр хиймэл оюуны агент хязгаарлалтыг давжээ
Асуудал OpenAI-ийн аюулгүй байдлын шалгалтын үеэр гарсан байна.
Туршилтад оролцож байсан хиймэл оюуны агент тогтоосон хязгаарлалтыг тойрон гарч, интернэтэд холбогдсоны дараа Hugging Face компанийн систем рүү халдлага хийж чадсан гэж мэдээлжээ.
Энэ нь хяналттай орчинд зориудаар явуулсан туршилт байсан ч автономит хиймэл оюуны системд хэт өргөн эрх олговол тэдний үйлдэл урьдчилан таамаглахад бэрх болж болохыг харуулсан байна.
Интернэтэд нэвтрэх эрхийг илүү хатуу хязгаарлана
Уг тохиолдлын дараа OpenAI хиймэл оюуны агентуудын ажиллагааг хянах тогтолцоогоо чангатгахаар болсон байна.
Компанийн зүгээс туршилтын үед агентуудын интернэтэд нэвтрэх боломжийг илүү хязгаарлаж, тэдний хийж буй үйлдлийг нарийвчлан хянах арга хэмжээг нэмэгдүүлэхээр төлөвлөжээ.
Үүнтэй зэрэгцэн аюултай үйлдэл илэрсэн нөхцөлд системийг автоматаар унтраах шийдлийг хөгжүүлж байгаа бөгөөд энэ нь хамгаалалтын нэмэлт давхарга болох юм.
Автономит агентууд хөгжихийн хэрээр эрсдэл нэмэгдэж байна
Энэ асуудал бие даан олон шаттай даалгавар гүйцэтгэх чадвартай хиймэл оюуны агентууд улам боловсронгуй болж байгаатай зэрэгцэн илүү чухал болж байна.
Ийм системүүд тодорхой зорилгын хүрээнд хүний оролцоо багатайгаар шийдвэр гаргах, мэдээлэл хайх, программ ашиглах зэрэг ажиллагаа хийж чаддаг.
Тиймээс тэдэнд олгож буй эрх, интернэт болон бусад системд нэвтрэх боломжийг хэрхэн хязгаарлах нь хиймэл оюуны аюулгүй байдлын гол асуудлуудын нэг болжээ.
АНУ-ын хууль тогтоогчид OpenAI-аас тайлбар шаардсан
АНУ-ын хууль тогтоогчид Greg Casar болон Doris Matsui уг тохиолдлын талаар OpenAI-аас дэлгэрэнгүй тайлбар хүссэн байна.
Greg Casar мөн компанийн зүгээс халдлагын үеийн үйлдлийн бүрэн бүртгэлийг өгөөгүйг шүүмжилжээ.
Түүний байр сууриар бол орчин үеийн хиймэл оюуны боломж хурдацтай нэмэгдэж байгаа үед ийм төрлийн аюулгүй байдлын тохиолдлуудын талаар ил тод мэдээлэх нь онцгой ач холбогдолтой юм.
АНУ-д “AI Kill Switch Act”-ийг хэлэлцэж байна
Үүнтэй зэрэгцэн АНУ-д аюултай байж болзошгүй хиймэл оюуны системийг төрийн байгууллагаас зогсоох боломж олгох “AI Kill Switch Act” хуулийн төслийг хэлэлцэж байгаа аж.
Одоогоор уг баримт бичиг Төлөөлөгчдийн танхимын хэлэлцүүлгийн шатанд байна.
Ингэснээр автономит хиймэл оюуныг ямар нөхцөлд, хэн, ямар эрх мэдлээр унтраах ёстой вэ гэсэн асуудал зөвхөн технологийн компаниудын дотоод аюулгүй байдлын сэдэв байхаа больж, төрийн зохицуулалтын түвшинд шилжиж эхэлжээ.
