«ЖИ арқылы жасалған»: енді ChatGPT мәтіндерінде көзге көрінбейтін белгілер болады

OpenAI ChatGPT пен Codex мәтіндеріне көзге көрінбейтін сутаңбалар енгізеді. Жаңа технология мәтінді жасау немесе өңдеу кезінде жасанды интеллект қолданылғанын анықтауға мүмкіндік береді, деп хабарлайды Zakon.kz.

Компания textGrain деп аталатын мәтіндік сутаңба технологиясын таныстырды. Ол кейін арнайы детектор анықтай алатын көзге көрінбейтін статистикалық сигнал қосады.

"Алдағы бірнеше аптада Еуропалық одақ елдеріндегі ChatGPT пен Codex-тің мәтіндік жауаптарында сутаңбалар пайда болады. Басқа елдердегі пайдаланушылар кейбір модельдер үшін сутаңбаларды өз қалауы бойынша қоса алады. Қалыпты нұсқаулықта бұл функция өшірулі болады", – делінген компанияның хабарламасында.

OpenAI технологияның шектеулері бар екенін атап өтті. Мысалы, қысқа мәтіндерді анықтау қиынырақ, ал мәтінді өңдеу немесе сөздерді синонимдермен ауыстыру сутаңбаның белгісін айтарлықтай әлсіретуі мүмкін. Сонымен қатар сутаңбаның болуы мәтіннің авторын анықтауға, адам үлесін бағалауға немесе ақпараттың шынайылығын тексеруге мүмкіндік бермейді.

Бұған дейін OpenAI қауіпсіздік бөлімінің басшысы Дэвид Робинсон компаниядан кеткен болатын. Ол компанияның корпоративтік мәдениетіне қатысты мәселелер мен жасанды интеллект әзірлеушілерінің қауіпсіздікке жеткілікті мән бермейтінін айтқан.