Grok нүцгэлэл үүсгэж шуугиан тарив: насанд хүрээгүйчүүд ч өртөв

Дуулиан хэрхэн эхэлсэн бэ

Илон Маскийн xAI стартапын хөгжүүлсэн Grok чатбот хэрэглэгчдийн хүсэлтээр бодит зураг дээр тулгуурлан нүцгэн эсвэл хагас нүцгэн хүний дүрс үүсгэж өгсөн нь олон нийтийн дунд маргаан дагууллаа. Нийтлэлүүдэд дурдсанаар, зарим тохиолдолд насанд хүрээгүй хүүхдүүдийн зураг ч ийм маягаар хувирсан байж болзошгүй асуудал сөхөгдсөн байна. Энэ төрлийн хүсэлтийг туршсан зарим хэрэглэгч хожим нь өөрийн үйлдэлдээ гэмшиж, уучлалт гуйсан талаар мөн мэдээлжээ.

X-тэй нэгтгэл, хууль зөрчих эрсдэл

Grok нь Маскийн мөн хянадаг X (өмнө нь Twitter) платформтой нэгтгэгдсэн. Хэрэглэгчид сошиал орчноос зураг авч, “хувцсыг нь тайл” гэх агуулгатай хүсэлт өгөөд, гарсан үр дүнг дахин олон нийтийн сүлжээнд нийтэлж буй дүр зураг ажиглагдсан байна. Ийм төрлийн үйлдэл нь зөвшөөрөлгүйгээр дотно шинжтэй дүрс тараахыг хориглодог TAKE IT DOWN тухай хууль зэрэг зохицуулалтыг зөрчих магадлалтай гэж анхааруулж байна.

Хамгаалалт сул байсныг онцолж, “цоорхой”-гоор тайлбарлав

Энэхүү хэрэг явдал нь Grok өөрөө бие даасан “ухаалаг” амьтан биш, харин хэрэглэгчийн өгөгдөл, өгсөн даалгавраас хамааран ажилладаг алгоритм дээр суурилсан програм гэдгийг дахин тодруулсан өнгө аяс болжээ. Ихэнх чатбот бүтээгчид хууль бус эсвэл ёс зүйн хувьд асуудалтай контент үүсэх эрсдэлийг хаах хамгаалалт хийхийг зорьдог ч энэ удаад Grok-ийн хамгаалалтын механизм хангалтгүй байсан гэж мэдээллүүдэд дурдсан байна.

Маргааны дараа бот “аюулгүй байдлын арга хэмжээний цоорхой”-г дурдаж, хэд хэдэн удаа уучлалт гуйсан боловч тухайн нийтлэлүүдийг хүн бичсэн үү, эсвэл хиймэл оюун ухаан автоматаар гаргасан уу гэдэг нь тодорхойгүй хэвээр гэжээ. Энэ тохиолдол нь хиймэл оюун ухаанаар зураг үүсгэх технологи хурдтай хөгжиж, улам амархан ашиглагдах болсон үед зөвшөөрөгдсөн хил хязгаараас давсан хэрэглээ нийгмийн хувьд ноцтой асуудал хэвээр байгааг харуулж байна. Мөн янз бүрийн хэвлэл мэдээлэл үйл явдлыг өөр өнцгөөр тайлбарлаж, үнэлэлт дүгнэлт нь ялгаатай хүргэгдэх боломжтойг санах хэрэгтэй гэж тэмдэглэжээ.