Эрмитаж обсудил нейросети и суверенный ИИ

В первый день Форума объединенных культур в Эрмитаже прошла дискуссия «Новые технологии в культуре и искусстве — благо или вред, преимущества или риск», организованная гендиректором президентского фонда культурных инициатив Романом Кармановым. Уже несколько лет в первом атриуме он собирает не технических специалистов по ИИ, а визионеров — тех, кто способен разглядеть перспективы в повседневных явлениях и задуматься о последствиях для общества.

Неудивительно, что именно эту встречу первым в тот день посетил хозяин площадки — директор Эрмитажа Михаил Пиотровский. Он не раз говорил, что видит в искусственном интеллекте советчика, предлагающего варианты и взгляд со стороны, но не заменяющего интеллектуальный труд человека. Однако минусы ИИ он тоже замечает.

«Первые, кто активно использует искусственный интеллект, — бюрократы», — заявил Пиотровский, добавив, что вмешательство машин в жизнь людей — зачастую самовольное — стало повседневной практикой.

Директор Эрмитажа отметил, что из-за распространения нейросетей растет значимость профессий учителя и редактора: ИИ нужно обучать, его результаты — редактировать и комментировать, поэтому профессиональный рецензент тоже важен.

Кроме того, по мнению Пиотровского, человеку важно замедлиться: скоростные вычисления возьмет на себя ИИ, а людям «надо вспоминать достоинства, которые у нас остаются и не имеют отношения к псевдоэффективности работы мозга». «У мозга есть другие цели, кроме эффективного решения задач, математических в том числе», — рассуждает Михаил Борисович. Именно поэтому растет популярность медитаций, медиаций, особую значимость приобретает медленное вдумчивое чтение, осмотр картин.

«Когда вы читаете медленно, вы испытываете совсем другое наслаждение — что в литературе, что в философском, что в управленческом тексте, — рассуждает он и продолжает: — Математика — это же такой кайф: решать и играть с этими цифрами! В этом — половина дела! А решить-то что…»

Другой участник дискуссии — спецпредставитель президента по международному культурному сотрудничеству Михаил Швыдкой — предостерег общество: «Нейросети ведут к деградации человеческого сознания».

По его мнению, сегодня мы используем ИИ в шутку, как аттракцион, а завтра нейросеть заменит очень многое, и в результате начнут трансформироваться сами человеческие органы, в том числе мозг. Ведь тело всегда отзывалось на изменение образа жизни человека.

Еще один вопрос, который его беспокоит, — национальная безопасность и защита национальной идентичности. Ведь та же межнациональная система по защите интернета от рисков со стороны искусственного интеллекта и нейросетей (для пресечения выхода их из-под контроля), которую Россия хочет создать совместно с Китаем, будет предлагать китайский образ мысли.

Самым мрачным выглядел прогноз замгендиректора «Газпром-Медиа-Холдинга» Юлии Голубевой. Она обратилась к аудитории и сначала попросила поднять руки тех, кто использует искусственный интеллект каждый день (подняли руки абсолютное большинство собравшихся), а потом — тех, кто продолжил бы делать это, если бы один запрос обходился в 500 рублей (желающих остались единицы).

«Стоимость подписки на ИИ сегодня очень сильно субсидирована, — объяснила она. — Есть данные, которые показывают, что при оплате 200 долларов в месяц за Chat GPT, пользуясь им, ты можешь сжечь ресурсов на 14 тысяч долларов в этот же период. И когда компании-разработчики попытались „перевесить“ эту цену на пользователя и отменить подписную модель, заменив ее сдельной оплатой, пользователи стали саботировать использование ИИ».

По данным, которые она привела, основные компании-разработчики искусственного интеллекта имеют долги почти в два триллиона долларов.

«Планируемый объем инвестиций всех компаний-лидеров отрасли в инфраструктуру в этом году — около 700 миллиардов долларов, а это, вдумайтесь, больше, чем все мировые инвестиции в добычу нефти и газа! — рассказала она. — К 2030 году будут еще какие-то невероятные цифры. И это становится всё более и более похоже на самый крупный инвестиционный пузырь в истории человечества. А какое колоссальное количество энергии требуется: представьте себе, в прошлом году ЦОДы для ИИ потребили 155 тераватт-часов — это оценка международного энергетического агентства. Для сравнения: вся Москва за это время потратила менее 60 тераватт-часов, а к 2030 году, они посчитали, будет как минимум 465 часов. А кто за это всё будет платить? Эту высокую цену пока не готов платить никто».

Юлия Голубева напомнила, что огромные затраты идут не только на развитие ИИ, но и на маркетинговую кампанию, которая буквально заставляет компании использовать ИИ в каждой жизненной ситуации, подгоняя, что это уже сделали все, и в скором времени без навыков работы с ИИ специалист станет непригоден.

«Есть предположение, что делается это не столько для того, чтобы сделать жизнь человечества комфортной, сколько чтобы вырастить поколение людей, которые не умеют жить без ИИ, — заключила она. — Вы возьмите любого современного школьника: он, как и все его сверстники, использует ИИ. Что он у него разовьет? Какие навыки? Навыки написания промпта? И то не факт. И когда он вырастет, тогда-то компании-разработчики искусственного интеллекта и смогут запросить с него любую цену за свой продукт. Потому что ему всё равно придется платить: он без ИИ жить не умеет. И тогда окупятся все эти колоссальные вложения».

Данные в пользу подобных рассуждений ранее привел еще один участник дискуссии — замначальника управления президента по общественным проектам Александр Журавский.

«Первое, что делают все нейросети в любом контакте с потребителем — адаптируются под цифровой образ потребителя, потому что главное, чего они должны достичь на первом этапе коммуникации, — доверие, — отметил он. — Они со всем соглашаются. А потом, когда он уже преодолеет ваш критический порог восприятия, тут-то и начинается система манипуляций».

При этом особенно страдают дети, жизнь которых теперь с самого начала идет бок о бок с ИИ: они не воспринимают его данные критически. Причем чем более ранний возраст, тем менее критичны пользователи.

Впрочем, «проруха» бывает и на взрослых.

«Сегодня на Западе люди при помощи персональных агентов уже ведут бухгалтерию, проектируют свой летний отдых, делегируют массу управленческих функций, не понимая, что оболочка-то общая, — продолжил замначальника управления президента по общественным проектам. — Да, агент — персональный, но всё, что вы передаете, по вашему же пользовательскому соглашению, может быть передано в интересах третьих лиц».

С этим связано в том числе и то, что Россия движется по пути создания собственного национального, суверенного искусственного интеллекта, пользуясь теми технологическими возможностями, которые сейчас предоставляют Китай и США для обучения систем изучения больших лингвистических моделей.

XII Санкт-Петербургский международный форум объединенных культур проводится в Петербурге с 24 по 26 сентября. Один из его ключевых треков — «Путь объединенных культур и технологий к культурному коду будущего».

Алина Циопа, «Фонтанка.ру»