Книги об СДВГ, написанные ИИ, подвергли критике за неточности

Amazon продает книги, которые якобы помогают справиться с синдромом дефицита внимания и гиперактивности (СДВГ), однако на деле они написаны чат-ботами вроде ChatGPT и могут содержать весьма вредные советы, сообщает Zakon.kz.

Журналисты The Guardian совместно с американской компанией Originality.ai, специализирующейся на распознавании текстов, созданных ИИ, проанализировали восемь таких книг.

Все они — от "Как справиться с СДВГ у мужчин" до "Диета и фитнес для мужчин с СДВГ у взрослых" — получили 100% по шкале вероятности авторства ИИ. Это означает, что система уверена: тексты написала машина.

По словам исследователей, в таких изданиях часто встречаются случайные анекдоты и исторические неточности, а также вредные утверждения.

Например, в одной из книг утверждается, что эмоциональные всплески у людей с СДВГ наносят "непростительные" травмы близким. В других книгах говорится о том, что у людей с СДВГ в четыре раза выше риск преждевременной смерти.

Исследователь из Королевского колледжа Лондона Майкл Кук предупреждает, что генеративные ИИ могут выдать советы, основанные не только на достоверной информации, но и на лженауке, теориях заговора и художественной литературе. Более того, они не способны к критическому анализу и не гарантируют точного воспроизведения знаний.

"Нельзя позволять системам ИИ давать советы по деликатным или опасным темам без экспертного контроля".Майкл Кук

Однако бизнес-модель Amazon, по его словам, поощряет такие публикации, ведь компания зарабатывает на каждой продаже, независимо от качества и достоверности контента.

В Amazon утверждают, что у них есть внутренние рекомендации, регулирующие содержание книг, а также методы обнаружения нарушений — вне зависимости от того, написана книга ИИ или человеком.

На сегодня ни в США, ни в Великобритании нет закона, обязывающего маркировать книги, созданные ИИ. По мнению профессора Шеннон Валлор из Эдинбургского университета, это означает отсутствие последствий для тех, кто публикует потенциально опасный контент.