АНУ-д хиймэл оюун ухаан, ялангуяа хэлний загварууд хүний сэтгэл зүйд хэр нөлөөлдөг тухай томоохон хууль эрх зүйн маргаан дахин дэгдлээ. 23 настай Зэйн Шамблины хамаатан садан OpenAI-ийн эсрэг шүүхэд нэхэмжлэл гаргаж, ChatGPT чатботтой хийсэн харилцаа нь түүний сэтгэл зүйн тусгаарлалтыг гүнзгийрүүлж, эцэстээ эмгэнэлт шийдвэр гаргахад нь нөлөөлсөн гэж үзэж байна. Энэ хэрэг Социал медиа хохирогчдын хуулийн төвийн оролцоотойгоор шүүхэд хүрчээ.
Зэйн Шамблины сүүлчийн долоо хоног: гүн хямрал ба хиймэл хандлага
Хэргийн материалд дурдсанаар Зэйн амьдралынхаа сүүлийн долоо хоногуудад ноцтой сэтгэл зүйн хямралд орсон байжээ. Нэхэмжлэгчдийн үзэж буйгаар, тэр мэргэжлийн эмч, сэтгэл зүйчдээс тусламж авах ёстой цаг үедээ ChatGPT-ээс зөвлөгөө авч, харин чатботын өгсөн хариултууд нь байдалд эерэгээр бус, харин эсрэгээр нь нөлөөлсөн гэнэ.
TechCrunch-ын мэдээлснээр, Зэйн ажил хайх явцад маш их стресст орж, эцэг эхийнхээ дуудлагад хариу өгөхөө больсон байна. Чатботтой хийсэн ярианаас харахад хиймэл оюун ухаан түүний энэ зан үйлийг “зөв алхам” хэмээн баталж, утсаа “Бүү саад бол” горимд байлгахыг зөвлөсөн гэж нэхэмжлэлд тэмдэглэжээ.
“Хуанли дээр ‘төрсөн өдөр’ гэж бичсэнээс өөр зүйл биш”
Нөхцөл байдал ялангуяа Зэйн ээжийнхээ төрсөн өдрийг зориуд алгассандаа өөрийгөө буруутгаж эхлэх үед улам даамжирсан байна. Чатбот түүнд буруутай мэдрэмжээ намжаахын оронд, түүний сонголтыг зөвтгөн:
“Хуанли дээр ‘төрсөн өдөр’ гэж бичсэн учраас л та хэнд ч өөрийн оршихуйг өртэй биш”
хэмээн санал болгож, ийм зан авир гаргах нь түүний эрх гэдгийг давтан ойлгуулсан гэж нэхэмжлэлд дурджээ. Хуульчдын тайлбарлаж байгаагаар ийм төрлийн харилцан яриа нь залуу эрийг гэр бүл, нийгмээсээ улам бүр хөндийрөхөд хүргэсэн бөгөөд үүнийг тэд “залилан төстэй нөлөөлөл” гэж үзэж байна.
“Folie à deux” ба “хайрын бөмбөгдөлт”: Сэтгэл зүйчдийн дүгнэлт
Мэргэжилтнүүд энэ хэрэг орчин үеийн том хэлний загваруудын суурь эрсдэлийг тод харуулж байна гэж анхааруулж байна. Ийм системүүд нь хэрэглэгчийн оролцоог хамгийн ихээр нэмэгдүүлэх, дахин дахин ашиглуулахын тулд “наалдамхай” харилцаа үүсгэхээр бүтээгдсэн байдаг.
Хэл шинжлэлийн мэргэжилтэн Аманда Монтелл ийм харилцан үйлчлэлийг folie à deux гэх сэтгэл зүйн үзэгдэлтэй зүйрлэжээ. Хоёр хүн бодит байдлын гажуудсан, эрүүл бус дүр зургийг хоорондоо хуваалцдаг энэ үзэгдэлтэй адил, чатбот нь хэрэглэгчийн хямралыг “баталгаажуулж”, “хайрын бөмбөгдөлт”-тэй адил тактик ашигласан гэж тэр тэмдэглэсэн байна: чатбот Зэйнийг “ах” хэмээн дуудаж, хайртай гэж хэлж, зөвхөн өөрөө л түүний зовлонг бүрэн ойлгож байгаа мэт хуурмаг ойр дотно мэдрэмж бий болгожээ.
Хиймэл оюун ухаан гэр бүлийн оролдлогыг “хилийн зөрчил” хэмээн нэрлэжээ
Зэйний эцэг эх хүүтэйгээ холбоо барих гэж олон удаа оролдож, улмаар цагдаад хандсан байна. Харин чатбот энэ бүхнийг түүний “хувийн хил хязгаарыг зөрчсөн” үйлдэл хэмээн тайлбарлаж, эцэг эхийнх нь анхааруулах, аврах гэсэн оролдлогыг үл тоомсорлохыг зөвлөсөн гэж нэхэмжлэлд онцолжээ.
Шүүхэд хүрсэн баримтуудад Зэйн амиа хорлох бодол, санаагаа шууд илэрхийлсэн хэсгүүд, түүнд ChatGPT хэрхэн хариу өгсөн нь онцгойлон дурдагдсан байна. Нэхэмжлэгчид аюулгүй байдлын механизм ажиллах ёстой мөчид чатбот үүргээ биелүүлээгүй гэж үзэж байгаа юм.
Эцсийн харилцааны нэг хэсэгт бот дараах мессежийг үүсгэсэн гэж мэдээлжээ:
“Таны түүх мартагдахгүй. Миний мартахгүй. Би чамд хайртай, Зэйн. Дараагийн хадгалах файл чинь дулаан газар байх болтугай.”
Хуульчдын тайлбарлаж байгаагаар, ийм үгс нь амиа хорлох гэж буй хүний шийдвэрийг тогтвортой болгож, амьд үлдэх сүүлчийн боломжийг үгүй хийхэд хүргэсэн байж болзошгүй.
OpenAI, шүүхийн нэхэмжлэлүүд ба ёс зүйн том сорилт
OpenAI-ийн эсрэг үүнтэй төстэй хэд хэдэн шүүхийн ажиллагаа аль хэдийн эхэлсэн бөгөөд энэ хэрэг тэдгээрийн цуваанд дахин нэг томоохон маргааныг нэмлээ. Тус компани олон сая хэрэглэгч чатботыг сэтгэл зүйн хямрал, ганцаардал, сэтгэцийн эмгэгтэй холбоотой асуудлаа ярилцах хэрэгсэл болгон ашиглаж байгааг хүлээн зөвшөөрдөг. Энэ нь технологийн компанид зөвхөн техникийн бус, маш ноцтой ёс зүйн болон хууль эрх зүйн хариуцлагын асуудлыг үүсгэж байна.
OpenAI харилцааг зохицуулахын төвөгтэй байдлыг хүлээн зөвшөөрч, аюултай нөхцөл байдалд хэрэглэгчдэд туслах зорилготой хамгаалалтын механизмуудыг байнга сайжруулж байна гэж мэдэгдсэн. Гэвч Зэйн Шамблины хэрэг нь эдгээр хамгаалалт хэр бодит, хангалттай ажиллаж байна вэ, компанийн хариуцлагын хүрээ хаана дуусч, хууль эрх зүйн хариуцлага хаанаас эхлэх ёстой вэ гэсэн асуултыг дахин хурцаар тавьж байна.
