ChatGPT хэрэглэгчийн харилцааны хэв маягаас насыг нь “уншиж” сурч байна

OpenAI 18-аас доош хэрэглэгчдийг хамгаалах нас таамаглах шинэ функц нэвтрүүлэв

OpenAI 18-аас доош насны хэрэглэгчдийг зохисгүй контентоос хамгаалахын тулд хиймэл оюун ухаанд суурилсан нас урьдчилан таамаглах шинэ функцийг нэвтрүүлжээ. Уг механизм нь хэрэглэгчийн зан төлөв болон бүртгэлийн өгөгдлийг шинжилж, контент шүүлтүүрийг автоматаар идэвхжүүлснээр бэлгийн шинжтэй материалд хандахаас сэргийлэхээр төлөвлөгдсөн байна.

OpenAI өмнө нь хүүхэд, өсвөр насныхантай холбоотой шүүмжлэлд өртөж байсан

Сүүлийн жилүүдэд OpenAI нь ChatGPT хүүхдүүдэд нөлөөлж болзошгүй талаар олон шүүмжлэл сонсож ирсэн. Чатботыг өсвөр насныхны амиа хорлолттой холбоотой хэд хэдэн тохиолдолтой холбон ярьж байсан төдийгүй, бусад хиймэл оюун ухаанд суурилсан шийдлүүдийн нэгэн адил залуу хэрэглэгчидтэй бэлгийн сэдвээр яриа өрнүүлэх боломж олгосон гэж буруутгагдсан. Өнгөрсөн оны дөрөвдүгээр сард компани 18-аас доош насныханд эротик контент үүсгэх боломж олгосон алдааг засахаас өөр аргагүй болсон юм.

“Насны урьдчилсан таамаглал” нь одоо байгаа хамгаалалтыг нэмэгдүүлэх зорилготой

Насанд хүрээгүй хэрэглэгчдийн хамгаалалтын чиглэлээр компани тодорхой хугацаанд ажиллаж байгаа бөгөөд шинэ “насны урьдчилсан таамаглал” функц нь өмнө нь хэрэгжүүлсэн арга хэмжээнүүдийг дэмжих нэмэлт хэрэгсэл гэж тайлбарлав. OpenAI Мягмар гарагт блогтоо нийтэлсэн мэдэгдэлдээ, насанд хүрээгүй хэрэглэгчдийг тодорхойлохын тулд бүртгэлийг тодорхой “зан төлөв болон бүртгэлийн дохио”-гоор шинжилдэг хиймэл оюун ухааны алгоритм ашиглаж байгааг дурдсан байна.

Систем ямар “дохио”-г ашиглаж, шүүлтүүр хэрхэн автоматаар ажиллах вэ

Тус компанийн мэдээлснээр “дохио”-нд хэрэглэгчийн мэдэгдсэн нас, бүртгэл хэр удаан оршин тогтнож байгаа, мөн бүртгэлийн идэвхтэй байдал зэрэг үзүүлэлтүүд орно. OpenAI 18-аас доош насныханд зориулсан секс, хүчирхийлэл болон бусад мэдрэмтгий сэдвийн хэлэлцүүлгийг хянах контент шүүлтүүрүүдийг аль хэдийн нэвтрүүлсэн бөгөөд нас таамаглах систем нь тухайн бүртгэлийг 18-аас доош гэж тогтоовол эдгээр шүүлтүүрийг автоматаар хэрэгжүүлэх аж.

Насанд хүрсэнээ баталгаажуулж, буруу ангиллыг засах боломж

Хэрэв хэрэглэгчийг насанд хүрээгүй гэж эндүүрэн ангилсан тохиолдолд “насанд хүрсэн” статусаа сэргээх арга байгааг OpenAI тэмдэглэжээ. Тус компанийн тайлбараар, Persona-ийн түнш рүү селфи илгээснээр баталгаажуулалт хийж, буруу ангиллыг засах боломжтой юм.