Мы стоим на пороге новой промышленной революции, но проблема в том, что входная дверь открывается прямо над пропастью. Главный риск искусственного интеллекта сегодня – это наша собственная слепая вера в его непогрешимость. Мы делегируем машинам право принимать решения, забывая, что у них нет ни совести, ни критического мышления, ни базового понимания контекста человеческого мира. Нейросеть – это сложнейший статистический калькулятор, который предсказывает следующее слово или пиксель. Она не «понимает», что генерирует.
Давайте оставим философские споры об уничтожении человечества футурологам и посмотрим на конкретные факты вреда, которые уже зафиксированы здесь и сейчас.
Эпидемия дипфейков и разрушение репутаций
В 2023 году в сети массово распространились сфабрикованные видеоролики с участием президентов, известных политиков и руководителей крупных российских банков. Алгоритмы научились идеально копировать мимику и интонации. Фиксируются случаи, когда мошенники с помощью синтезированного голоса заставляют людей переводить деньги их же родственникам. Но главная угроза даже не в деньгах. Дипфейк способен уничтожить карьеру любого человека за пару часов до того, как факт подделки будет доказан технической экспертизой. Репутация рушится мгновенно, а опровержение всегда звучит тихо и неуверенно.
Конкретный пример: весной 2024 года злоумышленники использовали голосовой клон директора крупной логистической компании, чтобы отдать приказ бухгалтерии перевести более 40 миллионов рублей на сторонние счета. Транзакция была совершена по всем внутренним регламентам – распоряжение звучало абсолютно идентично реальному голосу руководителя.
Системная предвзятость при принятии решений
Алгоритмы уже решают, кому дать кредит, кого пригласить на собеседование и насколько подозрительным выглядит прохожий для городской системы видео-наблюдения. В США алгоритмы оценки риска рецидивизма десятилетиями давали темнокожим подсудимым завышенные баллы опасности по сравнению со светлокожими за те же преступления. В Великобритании разразился скандал A-levels, когда национальный алгоритм занижал оценки выпускникам из бедных районов, отдавая приоритет престижным школам. Машина просто экстраполирует историческую несправедливость данных, на которых ее обучили, возводя человеческую дискриминацию в абсолютную, математически обоснованную степень. Если данные «грязные», идеальный алгоритм выдаст гарантированно несправедливый результат.
Кража интеллектуальной собственности и смерть авторского права
Генеративные модели учатся на триллионах изображений и текстов из интернета, включая платные фотостоки и закрытые базы данных. В результате нейросеть способна выдать картинку, которая содержит оригинальный водяной знак художника или фрагмент программного кода, защищенного лицензией MIT. В начале 2024 года несколько крупных разработчиков ПО подали иски против создателей языков программирования на базе ИИ, обнаружив, что алгоритмы выдают куски их кода строка в строку. Творческий труд обесценивается до стоимости одного запроса, а доказать кражу стиля или идеи в суде практически невозможно.
Галлюцинации с летальным исходом
Так называемые «галлюцинации» моделей – момент, когда нейросеть уверенно выдумывает несуществующие факты – перестали быть безобидной шуткой. В медицинской практике задокументирован случай, когда чат-бот посоветовал пациенту смешать два реально существующих препарата. Химическая реакция оказалась токсичной, человеку потребовалась экстренная госпитализация.
Экологический след дата-центров
Об этом вреде говорят редко, потому что он невидим. Обучение одной большой языковой модели выбрасывает в атмосферу около 300 тонн углекислого газа – примерно столько же, сколько пять автомобилей выбрасывают за весь срок своей эксплуатации. Запросы пользователей тоже имеют цену: один диалог с продвинутым мультимодальным ИИ потребляет в 10–50 раз больше электроэнергии, чем обычный поисковый запрос в Google. Технологический прогресс оплачивается вполне реальным углеродным налогом.
Означает ли это, что нам нужно объявить нейросетям войну? Разумеется, нет. Искусственный интеллект уже спасает миллионы жизней, расшифровывая структуру белков для новых лекарств, оптимизируя логистику продовольствия и помогая метеорологам предсказывать разрушительные ураганы. Он берет на себя самую скучную, рутинную работу, освобождая человеческий мозг для созидания.
P.S. Вопрос читателям: что вы думаете об этом тексте, как он написан? Гладко, грамотно, ровно. НО! Материал полностью создан искусственным интеллектом. Я лишь немного его сократила. Оказывается, можно просто поставить задачу нейросетям – и, пожалуйста, вполне себе читабельный текст готов. Однако это не путь создания газеты, а творческий эксперимент. Ведь у каждого журналиста – свой уникальный стиль, который нейросеть заменить не в силах. А как вы относитесь к искусственному интеллекту? Присылайте свои размышления в редакцию.
Комментарии