13.04.2024
Подписывайтесь на Telegram-канал по ссылке

Искусственный интеллект поможет «следить за языком»

Следить за языком поможет ИИ

Учёные Корнеллского университета создали систему искусственного интеллекта, которая в реальном времени отслеживает чат и предупреждает пользователя о нарастающем напряжении в разговоре. Искусственный интеллект не цензурирует посты, а только поднимает флаг, когда разговор, по его мнению, становится слишком резким. Исследование опубликовано в журнале ACM Journals.

«Участники дебатов — это просто люди. В разгар спора о том, что их очень волнует, они часто реагируют эмоционально и понимают, что сильно погорячились только постфактум», — говорит ведущий автор работы Джонатан Чанг.

По словам Чанга, идея новой системы состоит не в том, чтобы указывать пользователям, что говорить, а в том, чтобы побудить их общаться так, как если бы разговор шел оффлайн. Инструмент получил название ConvoWizard. Это расширение для браузера, основанное на глубокой нейронной сети. Сеть была обучена на множестве языковых данных, взятых из форума Change My View (на Reddit). Этот форум отдаёт приоритет добросовестным дебатам на потенциально острые темы, связанные с политикой, экономикой и культурой.

Около 50 модераторов и участников форума использовали этот инструмент. Выводы были положительными: 68 % считают, что инструмент оценивает риски так же хорошо (или даже лучше), как их собственная интуиция. Более половины участников эксперимента сообщили, что предупреждения ConvoWizard помешали им опубликовать комментарий, о котором они бы потом пожалели.