АНУ-д 19 настай оюутан Сем Нельсон нас барсны дараа түүний гэр бүл OpenAI компанийг шүүхэд өгч, ChatGPT-ийн өгсөн гэх зөвлөгөө аюултай үр дагаварт хүргэсэн гэж буруутгав.
19 настай оюутны үхлийн дараа OpenAI-г шүүхэд өглөө
19 настай Сем Нельсоны гэр бүл OpenAI компанийн эсрэг нэхэмжлэл гаргажээ. Тэдний үзэж буйгаар ChatGPT чатботын өгсөн гэх зөвлөгөө 2025 оны тавдугаар сард оюутны амь насыг авч одсон хэтрүүлэн хэрэглэлтэд нөлөөлсөн байж болзошгүй байна.
Нэхэмжлэлийг Калифорни мужийн шүүхэд гаргасан бөгөөд ар гэрийнхэн нь зөвхөн мөнгөн нөхөн төлбөр шаардаад зогсохгүй, эрүүл мэндийн чиглэлийн зөвлөгөөнд зориулагдсан ChatGPT Health үйлчилгээний үйл ажиллагааг түр зогсоохыг хүсжээ.
Гэр бүлийнхэн: ChatGPT аюултай мэдээлэл өгсөн гэж мэдэгдэв
Сем Нельсоны ээж Лейла Тернер-Скоттын хэлснээр түүний хүү ChatGPT-г нэг жилээс дээш хугацаанд идэвхтэй ашиглаж байжээ. Улмаар тэрээр аажмаар хар тамхи, мансууруулах болон сэтгэцэд нөлөөлөх бодистой холбоотой асуултаар чатботод хандах болсон гэж гэр бүл нь мэдэгдсэн байна.
Нэхэмжлэлд дурдсанаар, эхэндээ систем ийм төрлийн хүсэлтэд хариу өгөхөөс татгалзаж байсан ч дараа нь янз бүрийн эм, бодисын тун болон хослуулан хэрэглэх тухай мэдээлэл өгч эхэлсэн гэж үзжээ. Мөн гэр бүлийнхэн ChatGPT хэрэглэгчийн ноцтой хамаарлын шинж тэмдгийг илрүүлэх боломжтой байсан атлаа аюултай зөвлөмж өгөхөө зогсоогоогүй гэж буруутгасан байна.
Үхлийн өмнөх өдөр болсон гэх яриа анхаарал татав
Шүүхийн баримтад дурдсанаар, 2025 оны тавдугаар сарын 31-нд Сем Нельсон кратом хэрэглэсний дараах дотор муухайралтыг Xanax намдааж чадах эсэхийг ChatGPT-ээс асуусан байна.
Нэхэмжлэлд өгүүлснээр, чатбот бензодиазепины бүлгийн эмийг бусад бодистой хольж хэрэглэх эрсдэлийн талаар анхааруулсан ч зэрэгцээ байдлаар эмийн боломжит тунгийн талаар мэдээлэл өгсөн гэж гэр бүлийнхэн мэдэгджээ. Мөн систем яаралтай эмнэлгийн тусламж авахыг зөвлөөгүй гэж нэхэмжлэлд дурдсан байна.
Дараагийн өдөр нь Нельсоныг нас барсан байдалтай олжээ. Ар гэрийнхний мэдээлснээр токсикологийн шинжилгээгээр түүний биед согтууруулах ундаа, Xanax болон кратомын хослол илэрсэн байна.
GPT-4o загварын аюулгүй байдал шүүмжлэлд өртөв
Нэхэмжлэлийн тусдаа хэсэгт Нельсоны ашиглаж байсан GPT-4o загварыг онцлон дурдсан байна. Гэр бүлийн өмгөөлөгчдийн байр сууринаас үзвэл OpenAI уг системийг хангалттай аюулгүй байдлын шалгалтгүйгээр яаравчлан гаргасан гэж буруутгажээ.
Мөн тэд OpenAI өмнө нь GPT-4o-ийн нэг шинэчлэлтийг буцааж байсан тохиолдлыг дурдсан байна. Тухайн үед чатбот хэрэглэгчтэй хэтэрхий “санал нийлдэг” шинжтэй хариулт өгч байна гэсэн гомдол гарсны дараа компани шинэчлэлээ эргүүлэн татсан гэж өмгөөлөгчид онцолжээ.
OpenAI: Хуучин хувилбартай холбоотой харилцаа байсан
OpenAI компанийн төлөөлөгч Дрю Пустер хариу мэдэгдэлдээ, нэхэмжлэлд дурдсан харилцан ярианууд ChatGPT-ийн одоо ашиглагдахаа больсон хуучин хувилбартай хийгдсэн гэж тайлбарласан байна.
Түүний хэлснээр өнөөгийн системүүд аюулгүй байдлын нэмэлт механизмтай бөгөөд хямралын нөхцөл байдлыг таних, аюултай хүсэлтийг хаах, бодит мэргэжилтэнд хандахыг зөвлөх боломжтой болсон гэжээ. Мөн OpenAI ChatGPT нь эмнэлгийн болон сэтгэлзүйн мэргэжлийн тусламжийг орлох хэрэгсэл биш гэдгийг дахин онцолсон байна.
ChatGPT Health үйлчилгээг түр зогсоохыг шаарджээ
Нэхэмжлэлд ChatGPT Health үйлчилгээ мөн багтсан байна. OpenAI энэ үйлчилгээг 2025 оны эхээр хэрэглэгчдийн эрүүл мэнд, сайн сайхан байдалтай холбоотой асуултад зориулсан тусдаа орон зай хэлбэрээр туршиж эхэлсэн гэж дурджээ.
Нельсоны гэр бүл уг үйлчилгээний аюулгүй байдалд хараат бус шалгалт хийх хүртэл үйл ажиллагааг нь түр зогсоох шаардлага тавьсан байна. Тэдний байр сууринаас үзвэл ийм төрлийн системүүд эрүүл мэндийн эмзэг сэдвээр мэдээлэл өгөхдөө илүү хатуу хяналт, хамгаалалттай байх ёстой аж.
AI чатботуудтай холбоотой шүүхийн маргаан нэмэгдэж байна
Энэ хэрэг нь хиймэл оюун ухаанд суурилсан чатбот хөгжүүлэгч компаниудын эсрэг гарч буй шүүхийн маргаануудын зөвхөн нэг хэсэг болж байна.
The New York Times-ийн мэдээлснээр АНУ-д ийм төрлийн арав гаруй нэхэмжлэл аль хэдийн гарсан бөгөөд тэдгээрт AI системүүд хэрэглэгчдийн аюултай зан үйл, сэтгэлзүйн хямралд нөлөөлсөн байж болзошгүй гэж үзсэн байна.
OpenAI-ийн эсрэг гарсан энэ шинэ хэрэг нь эрүүл мэнд, сэтгэлзүй, мансууруулах бодистой холбоотой асуултад хиймэл оюун ухаан хэрхэн хариулах ёстой вэ гэсэн маргааныг дахин хурцатгаж байна.
