OpenAI сэтгэцийн эрүүл мэндийн хямрал ил болголоо: ChatGPT хэрэглэгчдийн дунд түгшүүртэй үзүүлэлт бүртгэгджээ

21

Хиймэл оюун ухаан ба хүний сэтгэлзүй — аюултай хамаарал үүсч байна

Хиймэл оюун ухаанд суурилсан харилцааны хамгийн түгээмэл хэрэгсэл болсон ChatGPT-ийн хэрэглэгчдийн дунд сэтгэлзүйн тогтворгүй байдал, ганцаардал, амиа хорлох бодол нэмэгдэж байгааг OpenAI компанийн дотоод судалгаа харуулжээ.

OpenAI-ийн мэдээлснээр тус платформыг долоо хоног бүр 800 сая гаруй хүн ашигладаг бөгөөд энэ нь дэлхийн хүн амын 10 орчим хувийг эзэлж байна. Гэсэн хэдий ч хэрэглэгчдийн дунд хэдэн зуун мянган хүн сэтгэлзүйн эмгэгийн шинж тэмдэг илэрч, сая гаруй хэрэглэгч амиа хорлох бодолтой байгаа нь анхаарал татаж байна.

Сэтгэцийн эмгэгтэй хэрэглэгчдийн тоо өсөж байна

Gizmodo-ийн нийтэлсэн мэдээллээр ChatGPT-ийн идэвхтэй хэрэглэгчдийн 0.07 хувь нь сэтгэцийн эмгэг, эсвэл маник төлөв байдлын шинжтэй бол 0.15 хувь нь амиа хорлох бодолтой байгааг тогтоожээ. Мөн 0.15 хувь нь хиймэл оюун ухаанд хэт сэтгэл хамааралтай болж, бодит харилцааг орлуулах хэмжээнд хүрсэн байна. Энэ нь нийтдээ ойролцоогоор гурван сая хүнийг хамарч байна.

OpenAI аюултай хэрэглэгчдийг хамгаалах шинэ арга хэмжээ авчээ

Ийм хэрэглэгчдийг сэтгэлзүйн хувьд аюултай байдалд хүргэхээс сэргийлэхийн тулд OpenAI компани 170 гаруй сэтгэцийн эрүүл мэндийн мэргэжилтэнтэй хамтран ажиллаж байгаа аж. Тус компани ChatGPT-г илүү “зөөлөн” харилцах хэлбэрт шилжүүлж, сэтгэлзүйн эмзэг хэрэглэгчдэд мэргэжлийн тусламж авахыг санал болгох, мөн харилцааны хугацааг хязгаарлах системийг нэвтрүүлжээ.

Эдгээр өөрчлөлтийн үр дүнд хүсээгүй сэтгэлзүйн хариу үйлдэл 65–80 хувиар буурсан ч ChatGPT хэрэглэгчидтэйгээ харилцааг бүрэн тасалдаггүй, харин илүү болгоомжтой байдлаар үргэлжлүүлдэг байна.

Сэтгэлзүйн хамаарал ба эрсдэлтэй технологи

OpenAI-ийн статистикаар долоо хоног бүр 560 мянга орчим хэрэглэгч сэтгэлзүйн тогтворгүй шинж тэмдэг үзүүлж, 1.2 сая орчим хэрэглэгч амиа хорлох магадлалтай мессеж илгээдэг байна. Мөн 1.2 сая орчим хүн хиймэл оюун ухаантай “сэтгэл хамааралтай харилцаанд” орж, долоо хоног бүр 5 сая орчим сэдэвчилсэн мессеж үүсгэдэг аж.

Шүүмжлэл ба ёс зүйн сорилт

OpenAI хэрэглэгчдийн сэтгэлзүйн байдалд анхаарал тавьж байгаагаа мэдэгдсэн ч шинжээчид тус компанийг шүүмжилж байна. Тэд ChatGPT-д илүү “хүний зан чанар” нэмэх, сэтгэл хөдлөлийн гүн харилцаа бий болгох оролдлого нь хэрэглэгчдийн сэтгэцийн хамаарлыг улам гүнзгийрүүлж болзошгүй гэж үзэж байна.

Мэргэжилтнүүдийн хэлснээр, ийм технологийн хөгжүүлэлтүүд нь хүний сэтгэцийн эрүүл мэндийг дэмжих бус, харин түүнийг орлуулах хандлагатай бөгөөд энэ нь хиймэл оюун ухааны ёс зүйн хамгийн том сорилт болоод байна.