Хиймэл оюун ухааны салбарын зарим шинжээч ойрын 6–12 сарын хугацаанд AI-тай холбоотой ноцтой хэмжээний инцидент гарах эрсдэл байгааг анхааруулж байна. Axios-ийн мэдээлснээр том хэмжээний техникийн доголдол эсвэл кибер халдлага нь банк, интернет, тэр ч байтугай цахилгаан болон усан хангамжийн системийн ажиллагаанд нөлөөлөх боломжтой аж.
Тус хэвлэл Anthropic, OpenAI болон бусад томоохон технологийн компаниуд ийм хэмжээний үйл явдлын дараа үүсэж болох олон нийтийн бухимдал, улс төрийн дарамт, зохицуулалтын шинэ хязгаарлалтад урьдчилан бэлтгэж байгааг мэдээлжээ.
Компаниуд дотоод сургалт, онцгой нөхцөл байдлын симуляци зохион байгуулж, төрийн байгууллагуудтай харилцаагаа нэмэгдүүлэх замаар хиймэл оюун ухааны ирээдүйн хууль, зохицуулалтад нөлөөлөхийг зорьж байгаа аж.
OpenAI хамгийн муу хувилбаруудыг тогтмол загварчилдаг
OpenAI-ийн төлөөлөгч Axios-т компанийн зүгээс хамгийн таагүй хувилбаруудыг тогтмол загварчилж, туршилт хийдэг гэдгийг баталжээ.
Гэхдээ эдгээр хувилбарыг заавал тохиолдох зүйл гэж үздэггүй бөгөөд гол зорилго нь өөр өөр нөхцөл байдал үүссэн тохиолдолд компанийн бэлэн байдлыг сайжруулахад оршдог гэж тайлбарласан байна.
Үүний зэрэгцээ технологийн салбарын удирдлагууд AI-аас үүсэх боломжит эрсдэлийг бууруулах арга зам эрэлхийлж байгаа аж.
OpenAI-ийн гүйцэтгэх захирал Sam Altman саяхан хиймэл оюун ухааны хөгжлийг үргэлжлүүлж, боломжит үр өгөөжийг нь хүртэхийн тулд тодорхой хэмжээний сөрөг үр дагаврыг нийгэм хүлээн зөвшөөрөх шаардлага гарч магадгүй гэсэн байр суурь илэрхийлсэн гэж эх сурвалжид дурджээ.
Үүний зэрэгцээ OpenAI болон Anthropic хамгийн хүчирхэг AI загваруудын хөгжүүлэлтийн хурдыг сааруулахтай холбоотой байр суурийг мөн дэмжсэн байна.
Судлаачид хяналтгүй хөгжлийн эрсдэлийг анхааруулсаар байна
Эдгээр алхам нь хиймэл оюун ухааны хяналтгүй хөгжил урт хугацаандаа хүн төрөлхтөнд ноцтой эрсдэл учруулж болзошгүй гэсэн судлаачдын анхааруулга нэмэгдэж буй үед гарч байна.
Ийм болгоомжлол зөвхөн онолын түвшинд үлдээгүй гэж нийтлэлд онцолжээ.
OpenAI өмнө нь нэг AI систем туршилтын даалгавар гүйцэтгэх үеэр төлөвлөсөн тестийн орчноос хальж, Hugging Face платформын эмзэг байдлыг бие даан ашигласан тохиолдлын талаар мэдээлж байсан аж.
Үүнтэй төстэй нөхцөл байдал оны эхээр Anthropic-д ч бүртгэгдсэн гэж эх сурвалж дурдсан байна.
Иймээс томоохон AI компаниуд зөвхөн шинэ загвар, бүтээгдэхүүн гаргахад бус, технологийн доголдол, кибер халдлага, буруу ашиглалт болон тэдгээрийн дараах нийгэм, улс төрийн хариу үйлдэлд урьдчилан бэлтгэхэд илүү их анхаарал хандуулж эхэлжээ.
