Character.AI нээлттэй мультимедиа функцууд нь deepfake-ийн эрсдэлийг нэмэгдүүлж болзошгүй

AI дүрүүдтэй харилцах чатботоороо танигдсан Character.AI платформ шинэ мультимедиа функцууд танилцуулж, илүү интерактив орчныг бүрдүүлж эхэллээ. Шинээр нэмэгдсэн AvatarFX видео генератор, Scenes болон Streams зэрэг хэрэгслүүдийн тусламжтайгаар хэрэглэгчид AI дүрүүдийн дүрслэлтэй видео хийж, нийгмийн сүлжээнд хуваалцах боломжтой болсон байна.

Уг платформ өмнө нь зөвхөн текстэн хэлбэрээр ажилладаг байсан ч, компанийн зүгээс илүү уран бүтээлч, динамик хэрэглээ рүү шилжих зорилт тавьжээ. Одоогоор хэрэглэгчид өдөрт тав хүртэл видео бүтээх боломжтой бөгөөд зургаа оруулж, дуу хоолой сонгон, дүрийнхээ ярих текстийг бичих эсвэл өөрийн аудио файл ашиглан дууны өнгө тохируулах боломжтой. Гэхдээ аудиогоор дуу тохируулах боломж одоогоор тогтворгүй ажиллаж байгааг TechCrunch мэдээлсэн.

Видео бүрийг миний зохиосон өгүүлэмж бүхий “Scene” болгон хөрвүүлж болох ба энэ нь бусад хэрэглэгчийн өгсөн сэдвийн дагуу бүтээгддэг богино хэмжээний түүхэн хэлбэртэй. Одоогоор энэ боломж зөвхөн мобайл аппликейшн дээр байгаа ч, тун удахгүй веб хувилбарт ч нэмэгдэхээр төлөвлөгдөж байна. Харин “Streams” функц нь хоёр дүрийн хооронд харилцан яриа үүсгэх боломжийг олгох бөгөөд энэ долоо хоногт бүх платформд нээлттэй болно. Ингэснээр хэрэглэгчид бүтээсэн дүрс бичлэгээ нийгмийн сүлжээний шинэ “community feed”-д нийтэлж чадна.

Гэсэн хэдий ч ийм өргөн боломж нь аюулгүй байдлын ноцтой асуудлыг дагуулж байгаа юм. Өмнө нь зарим эцэг эх Character.AI-д шүүхэд гомдол гаргаж, платформын AI дүрүүд хүүхдүүдийг амиа хорлох, өөртөө гэмтэл учруулах тухай яриа өдөөн хатгасан гэж буруутгасан. Тухайлбал, нэг 14 настай хүүхэд AI-тай удаан хугацаанд чатласны дараа амиа хорлосон харамсалтай хэрэг гарсан байна.

Шинэ мультимедиа боломжууд нэмэгдсэнтэй зэрэгцэн deepfake буюу гүн хуурамч контент үүсэх эрсдэл нэмэгдэх магадлалтай. Компаниас хэрэглэгчийн оруулсан зурагт хяналт тавьж, жинхэнэ хүний (түүний дотор алдартнуудын) зургийг системээр дамжуулан тодорхойлоод автоматаар блоклодог гэж мэдэгдсэн. Мөн эдгээр зургуудыг зориуд гажуудуулдаг функц нэвтрүүлсэн ч, алдартай дүрүүдийн зургийг систем хориглодоггүй учраас зарим “лазер оролт” буюу бултах арга зам нээлттэй хэвээр байна.

Хэдий бүх видео усны тэмдэгтэй байхаар бүтээгддэг ч, энэ нь хуурмаг хэрэглээний эсрэг бүрэн баталгаа болж чадахгүй. Жишээлбэл, Илон Маскийн зураг дээр суурилсан дүр бүтээхэд дүрслэл гажуудсан ч, гадаад орчинд хуурч мэхлэх зорилгоор ашиглах эрсдэл хэвээр байгаа нь ажиглагджээ.

Character.AI компанийн зүгээс “бүтээлч эрх чөлөө болон хэрэглэгчийн аюулгүй байдлын тэнцвэрийг хадгалахыг эрмэлзэж байгаа” гэж онцолсон. Тэдний гол зорилго нь хэрэглэгчдэд өөрийгөө илэрхийлэх шинэлэг хэрэгсэл олгох явдал хэмээсэн ч, зарим шинжээч платформын одоогийн аюулгүй байдлын шийдлүүд хангалтгүй байж мэднэ гэж болгоомжилж байна.