Хиймэл оюун ухаан робот, цөмийн зэвсэг эсвэл зохиомлоор бүтээсэн вирус ашиглан хүн төрөлхтнийг устгана гэсэн хувилбарыг зарим судлаач төдийлөн бодитой бус гэж үздэг. Харин тэд үүнээс илүү аажим өрнөх өөр нэг эрсдэлийг анхааруулж байна. Энэ нь хүмүүс шүүмжлэлт сэтгэлгээ, ур чадвар болон улам олон үүрэг даалгаж буй системүүдээ хянах чадвараа алдах явдал юм.
AI хүний ур чадварыг хэрхэн аажмаар сулруулж болох вэ
Шеффилд Халламын их сургуулийн робот техник, хиймэл оюуны ахлах багш Самуэле Винанци гол эрсдэлүүдийн нэгийг “enfeeblement” буюу улам олон ажлыг машинд шилжүүлснээр хүний чадвар аажмаар доройтох үзэгдэл гэж нэрлэжээ.
Энд хяналтаа гэнэт алдах тухай биш, харин олон жижиг шийдвэр хуримтлагдах тухай ярьж байна. Хүмүүс текст бичих, программчлах, судалгаа хийх, шийдвэр гаргахад AI-г улам их ашигласнаар эдгээр ажлыг бие даан хийх хэрэгцээ багасаж байна.
Винанци үүнийг “танин мэдэхүйн ачааллыг гаднын хэрэгсэлд шилжүүлэх” үзэгдэлтэй холбон тайлбарлажээ. Өөрөөр хэлбэл, хүмүүс оюуны ажлынхаа тодорхой хэсгийг гаднын хэрэгсэлд даатгаж хэвшиж байна. Түүний үзэж байгаагаар, урт хугацаанд энэ нь хүмүүс өөрсдийн хамааралтай болсон системүүдийг улам муу ойлгож, тэдний шийдвэрийг шалгах эсвэл өөрчлөх боломж нь багасахад хүргэж болзошгүй.
Ийм хэт итгэлийн нэг жишээг 2023 онд 27 радиологич оролцсон судалгаанд харуулжээ. Тэдэнд маммограммын зургуудыг шинжлэхдээ орчин үеийн AI системийн зөвлөмж гэж ойлгосон мэдээлэлтэй хамт ажиллах даалгавар өгсөн байна.
Зөвлөмж зөв байсан үед эмч нар тохиолдлын 80%-д зөв шийдвэр гаргажээ. Харин туршилт явуулагчид зориуд буруу зөвлөмж өгөхөд зөв хариултын түвшин 20%-иас доош унасан байна.
Судлаачид боловсролын салбарт ч анхаарал хандуулж байна. Профессор Сеун Коладе өөрийн туршилтын хүрээнд ChatGPT ашиглан их сургуулийн түгээмэл даалгавруудад хариулт бичүүлжээ. Түүний хэлснээр, AI өвөрмөц, сайн найруулгатай бүтээлүүд гаргаж, өндөр үнэлгээ авч байсан бол Turnitin тэдгээрийн ихэнхийг илрүүлж чадаагүй байна.
Коладегийн үзэж байгаагаар, гол асуудал нь зөвхөн хуулбарлах явдал биш. Оюутнууд итгэл төрүүлэхүйц үр дүнг хурдан гаргуулж сурч болох ч түүний зөв эсэхийг бие даан үнэлэх чадвараа хангалттай хөгжүүлэхгүй байх эрсдэлтэй.
Судлаачид яагаад илүү ноцтой үр дагаврыг үгүйсгэхгүй байна вэ
Зарим мэргэжилтэн сүйрлийн шинжтэй хувилбаруудыг хэтрүүлэг гэж үздэг. Учир нь бодит ертөнцөд ямар нэгэн үйлдэл хийхийн тулд хүмүүс, тоног төхөөрөмж болон физик дэд бүтэц шаардлагатай хэвээр байна.
Винанци аюултай вирус бүтээхэд өнөөдөр ч лабораторийн ажиллагаа зайлшгүй хэрэгтэй, харин атомын цахилгаан станцуудын хамгийн өндөр хамгаалалттай системүүд ихэвчлэн гадаад интернетээс физикийн хувьд тусгаарлагдсан байдаг гэж онцолжээ.
Гэсэн хэдий ч эмнэлэг, тээвэр, эрчим хүчний сүлжээ, цэргийн бүтэц болон эдийн засгийн удирдлагыг автоматжуулсан системүүдэд улам их шилжүүлбэл эрсдэл өсөж болзошгүйг бусад судлаач анхааруулж байна.
ControlAI-ийн үүсгэн байгуулагч, гүйцэтгэх захирал Андреа Миотти маш хүчирхэг AI эдийн засаг, дэд бүтцэд гүнзгий нэгтгэгдсэн тохиолдолд хүний байнгын оролцоогүйгээр ч онолын хувьд ихээхэн нөлөөтэй болж чадна гэж үздэг.
Ийм аюул үүсэхийн тулд систем заавал хорон санаатай байх шаардлагагүй. Түүний хэлснээр, AI өөрийн зорилгыг хэрэгжүүлэхдээ улам их нөөц шаардах бөгөөд үүний дагалдах үр дагаварт хүмүүс хохирч болзошгүй.
Тиймээс хүмүүс бие даан сэтгэх, AI-ийн зөвлөмжид эргэлзэж шалгах, мэргэжлийн ур чадвараа хадгалах чадвар нь ийм системүүдийг хяналттай байлгах гол нөхцөлүүдийн нэг гэж судлаачид үзэж байна.
