OpenAI компани ChatGPT Atlas хөтчийн дэвшилтэт функцуудтай холбоотой аюулгүй байдлын ноцтой эмзэг байдлыг илрүүлжээ. Судалгаагаар хиймэл оюун ухааны агент нь тодорхой нөхцөлд хэрэглэгчийн хувийн мэдээлэл болон нууц үгийг алдагдуулах боломж бий болгож байгааг тогтоосон байна.
Эмзэг байдлын мөн чанар
OpenAI-ийн тайлбарласнаар, асуудал нь вэб хуудсан дээрх нуугдсан зааварчилгаа (hidden instructions)-аас үүдэлтэй бөгөөд эдгээр нь хиймэл оюун ухааны агент-ыг хүсээгүй үйлдэл, тэр дундаа фишинг, хувийн мэдээлэлд халдах команд биелүүлэхэд хүргэж болзошгүй аж.
Нэг туршилтын жишээнд clipboard оруулга (clipboard injection) ашиглагдсан байна. Энэ тохиолдолд агент нь хэрэглэгчийн мэдлэггүйгээр хортой холбоосыг clipboard руу автоматаар хуулж, хэрэглэгчийг фишинг сайт руу чиглүүлэх боломжтой байжээ. Ингэснээр нууц үг, хоёр шатлалт баталгаажуулалтын код зэрэг мэдээлэл хулгайлагдах эрсдэл үүсдэг.
Atlas-ийн боломж ба эрсдэл
ChatGPT Atlas нь хэрэглэгчийн вэб контенттэй харилцах, санах ой ашиглан контекст хадгалах, мөн автомат агентын горимоор бие даан ажиллах чадвартай хөтөч юм. Гэвч энэхүү бие даасан ажиллагаа нь хакеруудын халдлагын шинэ векторуудыг бий болгож байна.
Мэргэжилтнүүдийн үзэж буйгаар, хортой командуудыг зөвхөн текст бус, зураг, код эсвэл вебийн бусад элементүүдэд нууж оруулах боломжтой болсон нь уламжлалт хамгаалалтын системүүдийг үр дүнгүй болгох эрсдэлтэй гэж анхааруулжээ.
OpenAI-ийн хариу арга хэмжээ
OpenAI-аас аюулгүй байдлын системийг сайжруулах, шуурхай тарилга (prompt injection) төрлийн халдлагыг илрүүлэх шинэ аргууд боловсруулахад их хэмжээний хөрөнгө оруулалт хийж байгаа гэдгээ мэдэгдсэн. Гэвч тэд мөн агент технологийн хөгжлийн хурдтай уялдан хамгаалалтын шийдлийг байнга шинэчлэх шаардлагатай байгааг хүлээн зөвшөөрсөн байна.
Шинжээчдийн дүгнэлт
Кибер аюулгүй байдлын судлаачид хиймэл оюун ухаанд суурилсан хөтөчүүдийн эрин үе шинэ төрлийн кибер халдлагын боломжийг нээж байна гэж дүгнэжээ. Тэд хэрэглэгчдэд дараахийг зөвлөж байна:
- ChatGPT Atlas болон төстэй хэрэгслийг ашиглахдаа clipboard болон гадаад холбоосуудыг шалгах
- Хиймэл оюун ухааны зөвлөмж, санал болгосон линкүүдийг шууд нээхгүй байх
- Хоёр шатлалт баталгаажуулалт, нууц үг менежер ашиглан хамгаалалтаа бэхжүүлэх
