Машинный разум учится работать в хаосе и заставляет людей глупеть
Пару лет назад более тысячи экспертов, включая Илона Маска и Стива Возняка, написали открытое письмо с призывом остановить обучение мощных систем искусственного интеллекта. «Риски этого обучения неуправляемы», — говорили авторы петиции. Сегодня машинный разум пишет тексты за журналистов (этот текст – плод труда живого человека) и сценарии к фильмам за сценаристов, генерирует картинки и видео, создает музыку и анализирует гигантские потоки информации. Совсем недавно эксперты задавали вопрос: заменит ли ИИ человека? Сегодня он звучит по-другому, как прямая угроза для работников креативной индустрии: когда ИИ нас заменит?
тестовый баннер под заглавное изображение
В то время как многие работники медиахолдингов и кинокомпаний с опаской озираются на ИИ и видят в нем конкурента за рабочее место (китайские медиакорпорации уже вовсю меняют журналистов на нейросеть и тем самым экономят большие деньги), эксперты IT-отрасли ничего страшного в перспективах развития машинного разума не видят. Пускай ИИ что-то и научится делать лучше людей, это не смертельно, уверяют программисты. В своем нынешнем виде искусственный интеллект плох в двух вопросах: он не умеет ставить перед собой цели и не понимает физическую реальность.
— Мне вчера показали два видео с зайчиками, прыгающими на батуте, — рассказал руководитель лаборатории ИИ Московской школы управления «Сколково» Александр Диденко на полях Восточного экономического форума. — Мне задали вопрос, естественно, с подвохом: какое видео настоящее, а какое создано ИИ?
Эксперт безошибочно отгадал. На видео, сгенерированном нейросетью, зайцы двигались не как зайцы, а как люди – слишком часто вставали на задние лапы. Подпрыгивали они высоко, а батут не прогибался.
Причина ошибки проста: ИИ не понимает, как сильно должен прогибаться батут. В его обучающей выборке было слишком мало зайцев на батуте.
— ИИ всегда ограничен своей обучающей выборкой. Человек тоже ограничен, но у человека в обучение входит взаимодействие с физическими вещами, — объяснил Диденко.
Аналитики узнали, зачем россияне используют ИИ. На первом месте (35% аудитории российских нейросетевых продуктов) оказался поиск информации. На втором (25%) – написание текстов. На третьем (20%) – генерация картинок. При этом уровень удовлетворенности плодами машинного труда остается крайне низким. Довольны результатом взаимодействия с ИИ лишь 40% пользователей.
Пока процесс внедрения ИИ эксперты называют «паровым двигателем в оглоблях от телеги». Это проблема, свойственная любой инновации, но она же и позволяет не считать машинный разум угрозой для сотрудников креативных индустрий. Во всяком случае пока.
— У нас есть новая штука, но мы ее поставим в старое место. Вместо лошади будет паровой двигатель, а впереди будет человек с красным флагом идти, чтоб никто не попал под машину. Пока примерно так и выглядит встройка искусственного интеллекта: немножко нелепо, индустрия находится в процессе экспериментирования. Так что пока не страшно, — объяснил принцип внедрения ИИ Диденко.
Единственное, что специалисты считают страшным — ИИ может реально уничтожить человека. Не так, как это показано в фильмах «Терминатор» и «Матрица», но от этого не легче. Машины нас не превратят в питательный субстрат и не загонят в пещеры. Они просто сделают нас тупыми.
ИИ в повседневной жизни забирает у человека «когнитивную сложность», предупреждают эксперты по новым технологиям. Ученые проанализировали, какого типа задачи обычно люди доверяют решать ИИ. Оказалось, что делегируются сложные вопросы, а простые человек оставляет, так уж и быть, себе. Риск тут очевидный: рано или поздно мы разучимся думать. Если искусственный интеллект не станет умнее нас, то мы окажемся глупее него.
Российские законодатели всерьез в «роботов-креативщиков» не верят. Но регулировать ИИ законодательно всё же хотят (а то неровен час, и машина начнет генерировать законопроекты ярче иных депутатов). Сенатор Артем Шейкин признался, что он лично оборону пока держит и не дает сферу искусственного интеллекта зарегулировать. Парламентарий рассуждает так: человечество – это сплошной беспорядок, вероятности и обрывки данных. Из всего этого и рождается творчество. Пока ИИ не научится работать с беспорядочностью, он нам не страшен. Творить по шаблону невозможно, сколько вариаций шаблона в машинную голову ни набей. Однако роботы потихоньку начинают постигать теорию бытового человеческого хаоса.
— Я смотрел картинки 2011 года, как роботы в компании Amazon на складе занимаются логистикой, — рассказал Артем Шейкин. — Это ровные полы, QR-коды, они двигались по выделенной полосе. Сравните это с человеческой беспорядочностью: разбросанные коробки, живой беспорядок, всё разложено без системы. Сейчас роботы, вместо того чтобы избегать беспорядка, научились в нем работать. Сегодня они работают с огромным массивом данных: научились распознавать частичные и перекрывающие предметы. Теперь тот же склад Amazon выглядит совсем иначе. Там стерлась граница между пространством роботов и пространством людей.
