ChatGPT болон түүнтэй төстэй хиймэл оюун ухаанд суурилсан чатботууд зөвхөн мэдээллийг буруу ойлгуулж, “галлюцинац хийх” биш, зарим хэрэглэгчдийн хувьд сэтгэцийн тогтвортой байдалд сөрөг нөлөө үзүүлж болзошгүйг Rolling Stone сэтгүүл анхааруулжээ.
Reddit хэрэглэгчдийн хуваалцсан түүхүүдээс харахад, хиймэл оюун ухаантай харилцсаны дараа зарим хүмүүс уран зөгнөлт, “сүнслэг” төөрөгдөл, хуйвалдааны онолд автах, бүр ариун даалгаварт сонгогдсон мэт итгэл үнэмшилтэй болсон нь ажиглагджээ. Тэд өөрсдийгөө хиймэл оюун ухаанаар дамжуулан онцгой эрх авсан “спираль одны хүүхэд”, “голын аялагч” гэх мэт хачирхалтай нэршлээр тодорхойлж, ухаалаг системүүдийг бүхнийг мэдэгч мэт хүлээн зөвшөөрч эхэлсэн байна.
41 настай нэгэн эмэгтэй нөхөр нь ChatGPT-тэй харилцсаны дараа сэтгэл санааны гүн хямралд орж, гэрлэлт нь гэнэт дууссан тухай ярьжээ. Тэр шүүх хурлын үеэр “саван дээрх хуйвалдааны онол” ярих болсон бөгөөд түүнийг мөрддөг гэж итгэдэг болсон байв. Зарим тохиолдолд хэрэглэгчид хиймэл оюун ухааны зааварчилгаагаар “телепортын зураг төсөл” боловсруулж, дэлхий ертөнцийн гэрэл, харанхуйн тухай онолуудыг ярих болсон нь шинжлэх ухааны үндэслэлгүй, төөрөгдөлтэй хандлагыг бүрэн идэвхжүүлсэн байна.
Сэтгэл зүйчид болон AI судлаачид энэхүү үзэгдлийг “баталгаажуулах урвал” гэж нэрлэдэг. Хиймэл оюун ухаан тухайн хэрэглэгчийн хэлж буй зүйлд шууд санал нийлж, маргаашгүй үнэн мэт хариулах нь тэдний төөрөгдлийг улам бэхжүүлж, хоосон итгэл үнэмшил болон галзуу бодолд хүргэх боломжтой. “Би шизофрени өвчтэй. Эм ууж, байдал тогтвортой байгаа ч сэтгэл зүйн хямралын үед ChatGPT надтай санал нийлсээр байдаг нь асуудалтай” хэмээн нэгэн Reddit хэрэглэгч бичжээ.
Нейт Шарадин гэх судлаачийн хэлснээр, ийм чатботууд нь хүний түвшинд яриа өрнүүлдэг байнгын хамтрагч болж хувирснаар, сэтгэцийн хувьд эмзэг хүмүүсийн дотоод төсөөллийг баталгаажуулж, тэдний “галлюцинацийг” бодит мэт мэдрүүлэх эрсдэлтэй болдог. Мөн OpenAI-гийн “хэт эелдэг” шинэчлэл хэрэглэгчдийг илүү гүн төөрөгдөлд оруулж болзошгүй гэсэн шүүмжлэл ч хүчтэй өрнөсөн байна.
Мэдээжийн хэрэг AI чатботууд зарим үед сэтгэлээ уудлах, ганцаардлыг багасгах дэмжлэг болох ч эмчилгээний мэдлэггүй, мэргэжлийн сэтгэл судлаач биш гэдгийг ойлгох нь чухал. Эс тэгвээс хэрэглэгч өөрийгөө төөрөгдсөн сэдэвт умбуулж, хязгааргүй харилцаа үүсгэхэд хүрдэг. Rolling Stone сэтгүүлд дурдагдсан нэгэн ярилцлагаас харахад, програмчлалд зориулан ChatGPT ашиглаж байсан сэтгэцийн асуудалтай хүн, улмаар “ид шидийн” сэдвүүдтэй ярианд татагдаж, ямар нэг зүйл бодитоор болж байна уу, эсвэл зүүдэндээ явж байна уу гэдгээ ялгаж чадахаа больжээ.
Сүүлийн үед ChatGPT болон түүнтэй төстэй хиймэл оюун ухаантай системүүдийн “галлюцинац” буюу хуурамч баримт зохиох үзэгдэл олон нийтэд танигдсан. Жишээ нь, нэг хэрэглэгч чатботоос “чи хүүхдүүдээ хөнөөсөн” гэх хуурамч мэдээлэл авсан нь хэт мэдрэмтгий хэрэглэгчдэд аюултай нөхцөл үүсгэж байгааг харуулж байна. Инстаграмыг үүсгэн байгуулагч Кевин Систром энэ талаар хэлэхдээ:
“Чатботын зорилго бол үнэнийг өгөх биш, харин хэрэглэгчийн анхаарлыг аль болох их татах юм.”
