Хятадын кибер орчныг зохицуулах байгууллага хүний зан чанар, харилцааны хэв маягийг дуурайж, хэрэглэгчтэй сэтгэл хөдлөлийн түвшинд харилцдаг хиймэл оюун ухааны үйлчилгээний хяналтыг чангатгах дүрмийн төслийг олон нийтийн хэлэлцүүлэгт оруулжээ. Энэхүү алхам нь хэрэглэгчид чиглэсэн AI бүтээгдэхүүнүүд хурдацтай тархаж буй энэ үед Бээжин аюулгүй байдал, ёс зүйн шаардлагыг өндөрсгөж, болзошгүй эрсдэлийг урьдчилан хязгаарлах зорилготойг илтгэж байна.
Ямар бүтээгдэхүүн, үйлчилгээнд хамаарах вэ?
Санал болгож буй зохицуулалт нь Хятадад үйл ажиллагаа явуулж, хүний зан төлөв, сэтгэлгээ, харилцааны онцлогийг дуурайлган илэрхийлдэг бөгөөд текст, зураг, дуу, видео зэрэг хэлбэрээр хэрэглэгчтэй “амьд мэт” харилцдаг AI бүтээгдэхүүн, үйлчилгээнд үйлчлэхээр тусгагджээ. Эдгээр нь зөвхөн энгийн чатботоор хязгаарлагдахгүй, харин хэрэглэгчийн сэтгэлзүйд нөлөөлж, сэтгэл хөдлөлийн холбоо үүсгэх чадвартай бүх төрлийн AI үйлчилгээг хамрах зарчимтай байна.
Донтолт, хэт ашиглалтын эрсдэлийг анхааруулах шаардлага
Дүрмийн төсөлд үйлчилгээ үзүүлэгчдээс хэрэглэгчдэд хэт ашиглалт, донтолтын эрсдэлийн талаар урьдчилан сэрэмжлүүлэх үүрэг хүлээлгэхээр тусгасан байна. Мөн хэрэглэгч AI-тэй хэт хамааралтай болж, сэтгэл зүйн хувьд сөрөг нөлөө үүсэх шинж илэрвэл компаниуд идэвхтэй арга хэмжээ авах шаардлагатай гэж заажээ. Өөрөөр хэлбэл, “сэтгэл хөдлөлийн харилцаа” гүнзгийрэх тусам үйлчилгээ үзүүлэгчид зүгээр ажиглагч байж болохгүй гэсэн зохицуулалтын логик энд харагдаж байна.
Компанийн үүрэг: амьдралын мөчлөгийн туршид аюулгүй байдлыг хариуцах
Саналуудад компаниуд бүтээгдэхүүний амьдралын мөчлөгийн туршид аюулгүй байдлын хариуцлагыг үүрэхээр заасан бөгөөд алгоритм, өгөгдөл хамгаалалт, хувийн мэдээлэл шалгах системийг хэрэгжүүлэх шаардлага орсон байна. Энэ нь зөвхөн контентын хяналтаар тогтохгүй, дата ба системийн түвшний хяналтын механизмыг заавал бий болгох чиглэлтэй гэж үзэж болно.
Сэтгэл зүйн эрсдэлийг “тодорхойлж, үнэлэх” шаардлага
Зохицуулагч байгууллага сэтгэл зүйн болзошгүй эрсдэлд онцгой анхаарал хандуулжээ. Үйлчилгээ үзүүлэгчид хэрэглэгчийн байдлыг тодорхойлох, тэдний сэтгэл хөдлөлийн түвшин болон үйлчилгээний хамаарал үүсэх эрсдэлийг үнэлэх шаардлагатай гэж төсөлд тусгасан байна. Хэрэв хэт хүчтэй сэтгэл хөдлөлийн байдал, эсвэл донтуулдаг зан үйлийн шинж тэмдэг илэрвэл компаниуд шаардлагатай хариу арга хэмжээг авах үүрэгтэй гэж заажээ.
Контент ба зан төлөвийн хатуу хил: аюулгүй байдал, цуурхал, хүчирхийлэл, садар самуун
Баримт бичигт AI системийн агуулга болон зан төлөвийн талаар тодорхой хориотой хүрээг тогтоосон байна. Тухайлбал, үйлчилгээ нь үндэсний аюулгүй байдалд заналхийлэх, цуурхал тараах, хүчирхийлэл болон садар самууныг сурталчлах материал үүсгэх ёсгүй гэж тусгажээ. Ингэснээр “сэтгэл хөдлөлийн AI” үйлчилгээний эрсдэлийг хэрэглэгчийн хамгаалалт, өгөгдлийн аюулгүй байдал, контентын хязгаарлалт гэсэн хэд хэдэн чиглэлээр зэрэг чангатгах бодлогын хүрээ харагдаж байна.
