Хиймэл оюун ухааны өрсөлдөөн яагаад хүн төрөлхтөнд эрсдэл дагуулж байна вэ?

нийтлэгч Содном Энхбаяр
Хиймэл оюун ухааны өрсөлдөөн яагаад хүн төрөлхтөнд эрсдэл дагуулж байна вэ?

DeepSeek хиймэл оюун ухааны шуурхай өрсөлдөөнийг улам хурцатгав

DeepSeek компани хиймэл оюун ухааны хайлт болон бие даасан агентын технологид төвлөрсөн шинэ шатны өргөтгөлөө эхлүүлж, OpenAI, Alphabet зэрэг салбарын тэргүүлэгчдийн эсрэг шууд өрсөлдөөнд орж байна. Ингэснээр ерөнхий зориулалттай хиймэл оюун ухаан (AGI)-ын чиглэлд дэлхий нийтийн өрсөлдөөн илүү эрчимжиж, технологийн хурдтай уралдаан бодит эрсдэл дагуулж болзошгүй нөхцөл бүрэлдэж байна.

Нэгдүгээр сарын 29-нд нийтлэгдсэн мэдээллүүдээс харахад DeepSeek ажилд авах бодлогыг эрс идэвхжүүлж, хиймэл оюун ухаанаар ажилладаг хайлтын систем болон “ухаалаг” агентуудыг хөгжүүлэх багуудад шууд хөрөнгө оруулалт хийж эхэлжээ. Энэ нь компанийн бүтээгдэхүүний шугам улам өргөжиж, ердийн чатботоос гадна бодит орчны нарийн төвөгтэй асуудлыг өөрөө шийддэг системүүд рүү түрэн орж байгааг харуулж байна.

Олон төрлийн өгөгдөл боловсруулдаг хайлт ба бие даасан агентууд

DeepSeek-ийн сүүлийн саруудад гаргасан ажлын зараас үзэхэд компанийн хөгжүүлж буй хайлтын систем нь текст, зураг, аудиог нэгэн зэрэг боловсруулах, олон хэлээр ажиллах чадвартай байх ёстой гэж тодорхой заасан байдаг. Өөрөөр хэлбэл хэрэглэгчийн асуултыг ямар хэлбэрээр илэрхийлсэн нь хамаагүй, хиймэл оюун ухаан өөрөө бүх төрлийн мэдээллийг нэгтгэн ойлгож, хариу гаргах зорилготой.

Ажлын зарууд нь мөн хүний оролцоо хамгийн бага байх нөхцөлд ажиллах бие даасан хэрэгслүүд, өөрөөр хэлбэл хиймэл оюун ухааны агентуудыг хөгжүүлэхэд зориулагдсан сургалт, үнэлгээ, платформын шаардлагыг нарийвчлан тусгасан. DeepSeek ойрын жилүүдэд урт хугацаанд тасралтгүй ажилладаг, олон төрлийн даалгаврыг автоматаар гүйцэтгэдэг агентуудыг бодит хэрэглээнд олноор нэвтрүүлэхээр тооцож байна.

Ийм агентууд нь зөвхөн асуултад хариулаад зогсохгүй, өөрөө мэдээлэл цуглуулах, төлөвлөгөө боловсруулах, шийдвэр гаргах, даалгавар гүйцэтгэх зэрэг үйлдлийг хүний шууд хяналтгүй нөхцөлд гүйцэтгэх боломжтой системүүд юм. Энэ нь үр ашиг, хурдны хувьд давуу талтай боловч хяналт алдагдах, алдааг тэжээж улам томруулах, сөрөг зорилгоор ашиглагдах эрсдэлтэй зэрэг аюул дагуулна.

Хямд R1 загвараас дараагийн үе рүү

DeepSeek өнгөрсөн нэгдүгээр сард R1 загвараа олон нийтэд танилцуулж, АНУ-ын томоохон компаниудын хөгжүүлсэн дэвшилтэт загваруудтай ойролцоо түвшний үзүүлэлт гаргасан хэр нь өртөгийн хувьд мэдэгдэхүйц хямд байснаараа анхаарал татсан. Яг нэг жилийн дараа энэ загварын дараагийн үе ямар түвшинд гарах бол гэсэн хүлээлт салбар дотор эрс нэмэгдсэн байна.

Арванхоёрдугаар сарын сүүлчээр DeepSeek хиймэл оюун ухааны хөгжлийн үр ашгийг нэмэгдүүлэх тухай шинжлэх ухааны өгүүлэл нийтэлсэн. Ийм төрлийн техникийн өгүүллүүдийг ихэвчлэн шинэ, том хэмжээний загвар гаргахын өмнө бэлтгэл алхам байдлаар нийтэлдэг уламжлал салбарт тогтсон. Гэсэн ч DeepSeek шинэ бүтээгдэхүүнээ тойрсон мэдээллийг ухамсартайгаар маш бага түвшинд барьж, хэвлэл мэдээллийн орчинд бараг дуугарсангүй.

Одоогоор нийтэд ил болсон цорын ганц шууд дохио нь GitHub профайлын “model1” гэсэн бүдэг тэмдэглэл бөгөөд энэ нь дараагийн үеийн том загварын бэлтгэл аажмаар явж байж болзошгүйг л үүгээр илэрхийлж байна.

Ажлын заруудаар ил болсон AGI–ийн амбиц

Саяхны байдлаар DeepSeek 12-оос дээш гол ажлын байр зарлаж, компанийн стратегийн чиглэлийг нэлээд тодорхой харууллаа. Full-Stack Engineer зэрэг албан тушаалын шаардлагад нэр дэвшигч технологийн ирээдүйн чиг хандлага, ялангуяа хиймэл ерөнхий оюун ухаан (AGI)-ийн ирээдүйд хүчтэй сонирхолтой байх ёстой гэж онцолсон байдаг.

DeepSeek олон нийтэд ил гаргасан мэдэгдлүүддээ AGI хөгжүүлэх зорилтоо давтан дурддаг. Ерөнхий зориулалттай хиймэл оюун ухаан гэж өргөн хүрээний даалгаврыг гүйцэтгэхдээ хүний чадамжийг хүрэх, зарим тохиолдолд давж гарах системүүдийг хэлдэг. Ийм түвшний системүүдийг олон компанийн хэмжээнд зэрэг хөгжүүлэх нь хүчирхэг технологи богино хугацаанд, хангалтгүй зохицуулалттайгаар тархах нөхцөл бүрдүүлж болзошгүй.

OpenAI, Alphabet зэрэг өрсөлдөгчид ч мөн адил хайлт болон бие даасан агентын чиглэлээр ихээхэн хөрөнгө оруулалт хийж байгаа нь салбарт нийтлэг чиг хандлага үүсэж байгааг харуулж байна. Ингэснээр ердийн чатботын үе аажмаар дуусч, бодит ертөнцөд бодит нөлөө үзүүлдэг, өөрөө шийдвэр гаргадаг системүүдийн эрин эхэлж байгаа нь аюулгүй байдлын тухай асуудлыг улам хурцаар тавих шалтгаан болж байна.

Хурдтай өрсөлдөөн ба боломжит аюул

Хиймэл оюун ухааны судалгаа, хөгжүүлэлт дэвшил авчрахын зэрэгцээ хүн төрөлхтөнд аюул учруулж болзошгүй гэж ярьдаг шалтгаануудын нэг нь ийм өрсөлдөөнтэй холбоотой. Хамгийн хурдан, хамгийн хүчтэй, хамгийн ухаалаг системийг бусдаас өмнө гаргах зорилгоор компаниуд аюулгүй байдал, хяналтын механизмыг хангалттай төвшинд хөгжүүлэхгүй орхих, туршилтыг хэт шахах, эрсдлийг дутуу үнэлэх магадлалыг нэмэгдүүлдэг.

DeepSeek-ийн жишээ нь өөрөө энэ өрсөлдөөний хэр хурдтай, олон чиглэлд өрнөж байгааг харуулж байна. Олон хэлтэй, олон төрлийн өгөгдөл боловсруулдаг хайлт, хүний оролцоо бага бие даасан агентууд, AGI-ийн амбиц, өндөр гүйцэтгэлтэй, харьцангуй хямд загварууд зэрэг нь хэрэгжиж эхлэх үед зөвшөөрөл, хяналт, ёс зүй, аюулгүй байдлын тухай асуултуудыг зайлшгүй дагуулна.

Хэрэв ийм системүүдийг зохицуулалт сул орчинд өргөнөөр нэвтрүүлбэл мэдээллийн манипуляци, кибер халдлага, автомат шийдвэрийн алдаа, эдийн засаг, улс төрийн тогтолцоонд учирч болох системийн эрсдэл гэх мэт өргөн хүрээний сөрөг үр дагавар үүсэх эрсдэлтэй. Үүнтэй зэрэгцэн хүний оролцоо багасах тусам хариуцлага, алдаа гарсан тохиолдолд хэн хариуцах вэ гэсэн асуудал улам бүр тодорч гарч ирнэ.

Ийм нөхцөлд DeepSeek болон бусад томоохон тоглогчдын хийж буй алхмууд зөвхөн технологийн ахиц бус, хүн төрөлхтний ирээдүйн аюулгүй байдалтай шууд холбогдох асуудал болж байна.

Холбоотой нийтлэлүүд

Сэтгэгдэл үлдээх

MongolTechNews — Монгол болон дэлхийн технологийн хамгийн сүүлийн үеийн мэдээ
MongolTechNews нь ухаалаг гар утас, хиймэл оюун ухаан, блокчэйн, финтек, стартап, программ хангамж, ирээдүйн технологи зэрэг Монгол болон дэлхийн технологийн салбарын хамгийн сүүлийн үеийн мэдээг танд хүргэнэ.