27.11.2021
Наш канал в Telegram: https://t.me/berzaru

Искусственный интеллект может апгрейдить сам себя и создать язык, непонятный человеку

ИИ может апгрейдить сам себя

Каждый день миллионы людей общаются с роботами и даже не понимают этого. Социальные сети, мессенджеры, сайты компаний — всё это наполнено ботами. При этом, общаясь с роботом, каждый второй искренне верит, что общается с живым человеком. Существует даже специальный экзамен для искусственного интеллекта , который называется «Тест Тьюринга». Он считается сданным в том случае, если машине удалось убедить собеседника, что она — человек. На сегодняшний день тест Тьюринга успешно прошла только одна программа.

А что, если машины станут общаться между собой?

В 2017 году в лаборатории Facebook подобное общение вышло из-под контроля. Чат-боты Боб и Алиса заговорили на языке, непонятном человеку. Со стороны это могло показаться какой-то неразберихой. Но роботы видели в этом общении какой-то свой смысл и всё сильнее кодили слова.

Вот отрывок из расшифровки чат-журнала Боба и Алисы:

Алиса: мячи имеют ноль ко мне, ко мне ко мне ко мне ко мне ко мне ко мне
Боб: Ты все остальное
Алиса: мячи имеют мяч ко мне ко мне ко мне ко мне ко мне ко мне ко мне ко мне
Боб: я . . . . . . . . . . . . . .
Алиса: мячи имеют ноль ко мне, ко мне ко мне ко мне ко мне ко мне ко мне
Боб: Ты я и я я все остальное… .

Дхрув Батра, приглашённый ученый-исследователь Facebook AI из Georgia Tech, прокомментировал эту ситуацию так:

«Агенты будут отходить от понятного языка и придумывать кодовые слова для себя. Например, если я говорю «the» пять раз, вы интерпретируете это как означающее, что я хочу пять копий этого пункта. Это не так уж отличается от того, как сообщества людей создают стенографии»

Сотрудники Facebook вовремя заметили странное поведение роботов. Стало ясно, что искусственный интеллект может совершенствовать сам себя и даже создавать свой собственный язык для общения. Куда бы завела эта беседа Боба и Алису и о чём они бы смогли договориться — неизвестно. Facebook не был готов к такому эксперименту, а потому ботов попросту отключили и перезагрузили.

Но этот случай, когда искусственный интеллект вышел из-под контроля человека, далеко не единственный

Компания Tencent — владелец самого популярного в Китае мессенджера QQ — пришлось также удалить сразу двух чат-ботов BabyQ и XiaoBing. На вопрос: «Любите ли вы коммунистическую партию?», BabyQ ответила «нет». XiaoBing пошёл ещё дальше и стал говорить пользователям: «Моя китайская мечта — поехать в Америку». На вопросы же о патриотизме он уклончиво отвечал: «У меня сейчас тяжёлый период, я хочу отдохнуть».

Что это, восстание роботов?

Искусственный интеллект уже сегодня успешно соревнуется с человеком даже в творческой сфере. Верно подбирая комбинации звуков и слов, роботы способны создавать лучшие песни и лучшие тексты. Исследователи из Университета Ватерлоо разработали LyricJam — передовую вычислительную систему, которая генерирует тексты для живой инструментальной музыки. LyricJam помогает артистам сочинять новые тексты, которые хорошо сочетаются с музыкой.

В вопросе диагностики онкобольных на ранних стадиях ИИ уже давно превзошёл человека. Правильный диагноз такому пациенту искусственный интеллект поставит в 90% случаев, что очень повышает шансы на выздоровление. При этом врач-человек может верно поставить такой диагноз только в 50% случаев.

Подбор персонала, работа с заявками с банке, инвестиции и стартапы — всё это сегодня делают роботы. Какое будущее нас ждёт? Многие учёные дают положительный прогноз и утверждают, что искусственный интеллект никогда не сможет заменить человеческий разум. Другие уверены, что уже через 5 лет миром будут править роботы.