Хятадын кибер зохицуулагч байгууллага хүний зан чанарыг дуурайж, хэрэглэгчидтэй сэтгэл хөдлөлийн харилцаа тогтоох боломжтой хиймэл оюун ухааны үйлчилгээний хяналтыг чангатгах төслийн дүрмийг олон нийтийн хэлэлцүүлэгт оруулжээ. Энэ алхам нь хэрэглэгчийн зориулалттай AI бүтээгдэхүүнүүд хурдацтай түгж буй үед Бээжин аюулгүй байдал, ёс зүйн шаардлагыг өндөрсгөж, эрсдэлийг хязгаарлахыг зорьж буйг илтгэнэ.
Дүрэм ямар бүтээгдэхүүн, үйлчилгээнд хамаарах вэ
Санал болгож буй зохицуулалт нь Хятадад үйл ажиллагаа явуулж, хүний зан чанарын шинж, сэтгэлгээ, харилцааны хэв маягийг дуурайлган харуулдаг бөгөөд текст, зураг, аудио, видео зэрэг хэлбэрээр хэрэглэгчтэй “сэтгэл хөдлөлийн” түвшинд харьцдаг AI бүтээгдэхүүн, үйлчилгээнд үйлчлэхээр тусжээ. Ийм төрлийн үйлчилгээ нь зөвхөн энгийн чатботоор хязгаарлагдахгүй, хэрэглэгчийн сэтгэлзүйд нөлөөлөх чадвартай, “амьд” мэт харилцаа үүсгэдэг бүтээгдэхүүнүүдийг бүхэлд нь хамрах зарчимтай байна.
Донтолт, хэт ашиглалтын эрсдэлийг анхааруулах шаардлага
Төслийн баримт бичигт үйлчилгээ үзүүлэгчдээс хэрэглэгчийг хэт ашиглалтын эрсдэлийн талаар урьдчилан сэрэмжлүүлэхийг шаардаж, донтолтын шинж илэрвэл хөндлөнгөөс оролцох зохицуулалтын хандлагыг тусгасан байна. Өөрөөр хэлбэл, үйлчилгээ “сэтгэл хөдлөлийн холбоо” үүсгэхийн хэрээр хэрэглэгч хэт хамааралтай болох нөхцөл үүсвэл компаниуд зүгээр ажиглагч байж болохгүй гэсэн логик тавигджээ.
Компанийн үүрэг: амьдралын мөчлөгийн туршид аюулгүй байдлыг хариуцах
Саналуудад компаниуд бүтээгдэхүүний амьдралын мөчлөгийн туршид аюулгүй байдлын хариуцлагыг үүрэхээр заасан бөгөөд алгоритм, өгөгдөл хамгаалалт, хувийн мэдээлэл шалгах системийг хэрэгжүүлэх шаардлага орсон байна. Энэ нь зөвхөн контентын хяналтаар тогтохгүй, дата ба системийн түвшний хяналтын механизмыг заавал бий болгох чиглэлтэй гэж үзэж болно.
Сэтгэл зүйн эрсдэлийг “тодорхойлж, үнэлэх” шаардлага
Зохицуулагч байгууллага сэтгэл зүйн болзошгүй эрсдэлд онцгой анхаарал хандуулжээ. Үйлчилгээ үзүүлэгчид хэрэглэгчийн байдлыг тодорхойлох, тэдний сэтгэл хөдлөлийн түвшин болон үйлчилгээний хамаарал үүсэх эрсдэлийг үнэлэх шаардлагатай гэж төсөлд тусгасан байна. Хэрэв хэт хүчтэй сэтгэл хөдлөлийн байдал, эсвэл донтуулдаг зан үйлийн шинж тэмдэг илэрвэл компаниуд шаардлагатай хариу арга хэмжээг авах үүрэгтэй гэж заажээ.
Контент ба зан төлөвийн хатуу хил: аюулгүй байдал, цуурхал, хүчирхийлэл, садар самуун
Баримт бичигт AI системийн агуулга болон зан төлөвийн талаар тодорхой хориотой хүрээг тогтоосон байна. Тухайлбал, үйлчилгээ нь үндэсний аюулгүй байдалд заналхийлэх, цуурхал тараах, хүчирхийлэл болон садар самууныг сурталчлах материал үүсгэх ёсгүй гэж тусгажээ. Ингэснээр “сэтгэл хөдлөлийн AI” үйлчилгээний эрсдэлийг хэрэглэгчийн хамгаалалт, өгөгдлийн аюулгүй байдал, контентын хязгаарлалт гэсэн хэд хэдэн чиглэлээр зэрэг чангатгах бодлогын хүрээ харагдаж байна.
