Алтман предупреждает о злоупотреблении ИИ

Lisa Ernst · 26.10.2025 · Техника · 5 мин

Предупреждения Сэма Алтмана о злоупотреблении ИИ, которые я изначально воспринимал как обычную осторожность руководителя, доказали свою реальность на основе конкретных примеров и регуляторных реакций. В этом разъясняющем материале будет объяснено, чего именно предупреждают, что подтверждено и что ещё остается открытым.

Quelle: Собственная подача

Введение

Сэм Альтман, руководитель OpenAI, предупреждает о надвигающейся волне мошенничества с использованием голосовых клонов и дипфейков, особенно в финансовом секторе и вокруг выборов ( apnews.com). ). В то же время он призывает к регулированию и техническим контрмерам, таким как больше прозрачности материалов по ИИ ( apnews.com; openai.com). ). Этот материал освещает, что подтверждено и что ещё остается нерешенным.

Что такое злоупотребление ИИ?

Под злоупотреблением ИИ имеются в виду приложения, обманывающие людей, наносящие вред или нарушающие демократические процессы. Это, например, происходит через Deepfake-видео, -аудио или автоматически создаваемые поддельные тексты ( reuters.com). ). Голосовое клонирование означает синтетическое воспроизведение голоса по нескольким аудиозаписям. Аутентификация по голосовому отпечатку, «voiceprinting», сегодня легко подделать ( apnews.com). ). Дипфейки — это реалистично выглядящие искусственно созданные медиа, заставляющие людей говорить или делать то, чего никогда не происходило ( securityconference.org). ). Для противодействия должны помогать доказательства происхождения, такие как подписи C2PA, то есть криптографические метаданные о происхождении контента ( openai.com; c2pa.org).

Текущее состояние и происшествия

Quelle: nzz.ch

Сэм Альтман выражает обеспокоенность по поводу потенциальных случаев злоупотребления искусственным интеллектом.

В мае 2023 года Альтман дал показания перед Сенатом США и высказался за государственный или международный надзор за особенно мощными моделями ИИ ( congress.gov; youtube.com). ). Во Феврале 2024 года он предупредил в Дубае о «очень тонких социальных несоответствиях», которые без злого умысла могут причинить значительный ущерб, и вновь предложил надзор за ИИ, аналогичный МАГАТЭ, apnews.com).

Также в феврале 2024 года более 20 технологических компаний, включая OpenAI, Microsoft, Google, Meta и TikTok, подписали на Мюнхенской конференции по безопасности соглашение против вводящих в заблуждение материалов о голосовании, созданных ИИ ( securityconference.org; news.microsoft.com).

После кейса Deepfake-робокола с голосами ИИ, который должен был удержать избирателей в Нью‑Гэмпшире от голосования в январе 2024 года, регулятор FCC США прямо объявил голоса ИИ в робоколлах незаконными ( apnews.com; docs.fcc.gov).

OpenAI опубликовала в 2024/2025 годах несколько отчётов о предотвращённых случаях злоупотребления, включая государственно ориентированные акторы из России, Китая, Ирана и Северной Кореи. Подчеркивается, что LLM там в основном служили «ускорителем» существующих методов. openai.com; cdn.openai.com; microsoft.com; reuters.com).

22 июля 2025 года Альтман предупредил на конференции Федеральной резервной системы США о надвигающемся кризисе мошенничества в банковском секторе из-за голосовых клонов ИИ и раскритиковал, что некоторые учреждения до сих пор принимают голосовые отпечатки в качестве аутентификации ( apnews.com).

Анализ & Мотивы

Quelle: watson.ch

Сэм Альтман настоятельно призывает к регулированию и мерам защиты в свете рисков злоупотребления ИИ.

Сэм Альтман предупреждает о злоупотреблении ИИ по нескольким причинам. Во‑первых, реальные инциденты, начиная от Deepfake-выборов до мошенничества с голосовыми клонами, показывают масштаб злоупотребления и создают давление на платформы и политиков ( apnews.com; apnews.com). ). Во‑вторых, заранее сформулированное желание регулирования может вселить доверие и предвидеть жесткие меры, не тормозя инновации полностью ( apnews.com). ). В‑третьих, индустрия пытается установить стандарты через самообязательства, такие как Мюнхнерское соглашение, до того как глобальные обязательные правила вступят в силу. securityconference.org; news.microsoft.com).

В то же время рынок перегрет; сам Алтман недавно назвал ИИ «пузырем», что подчеркивает напряжение между призывами к безопасности и огромными инвестиционными планами ( theverge.com).

Клип представляет оригинальные высказывания Алтмана перед Сенатом США в полном контексте.

Факты и дезинформация

Quelle: user-added

Мужчина и женщина сидят на стульях, окружённые флагом США и флагом Федеральной резервной системы.

Подтверждено, что голосовые робоколы с использованием клонов голоса в США недопустимы; FCC в 2024 году ясно указал, что такие звонки подпадают под запрет робоколов ( docs.fcc.gov; apnews.com). Также подтверждена дословная критика Алтмана аутентификации по голосовым отпечаткам и его предупреждение о приближении волны мошенничества в банковской сфере ( apnews.com). OpenAI запрещает политическую агитацию, ботов-обманщиков и контент, который препятствует участию в выборах ( openai.com).

Не ясно, насколько велик дополнительный ущерб от злоупотребления LLM по сравнению с традиционными методами; OpenAI/Microsoft в целом сообщают о «повышении продуктивности» известных тактик, а не о совершенно новых наступательных возможностей ( microsoft.com; openai.com).

Утверждение, что голосовые робоколы «легальны до появления новых законов», неверно для США; FCC уже применяет существующее право (TCPA) к искусственным голосам ( docs.fcc.gov). Также вводит в заблуждение предположение, что «индустрия ничего не делает»; существуют конкретные самообязательства и технические меры, хотя их охват ограничен ( securityconference.org; openai.com).

Воздействие и рекомендации

Для пользователей: не полагайтесь в банковских операциях на голосовую идентификацию; предпочтение сильных внеканальных подтверждений (например, подтверждения в мобильном приложении или аппаратный токен). Предупредительные сигналы по звонкам: давление времени, необычные способы оплаты, новые «методы безопасности» только по телефону — в сомнительных случаях повесьте трубку и перезвоните официально. apnews.com).

Для информационной грамотности: проверьте источник неожиданных аудио- или видеоклипов, ищите противокардинальные доказательства и обращайте внимание на указания происхождения (C2PA) и надёжные первичные источники, такие как AP/Reuters ( apnews.com; reuters.com). ). OpenAI направляет по вопросам выборов к официальной информации; в ЕС, например, к elections.europa.eu openai.com; elections.europa.eu).

Открытые вопросы

Как быстро банки заменят рискованные методы голосового отпечатка на надёжные многофакторные методы? Есть ли надёжные международные статистические данные об объёме мошенничества с голосовыми клон-методами и их финансовым ущербе? Насколько эффективны стандарты происхождения на практике, когда контент сильно редактируется или перекодируется ( openai.com)? Какие регулирования последуют за добровольными соглашениями, например законы против вводящей в заблуждение KI-агитации на выборах, как закон „Protect Elections from Deceptive AI Act“ в США ( govtrack.us)?

Итог

Предупреждения Сэма Алтмана о злоупотреблении ИИ не являются абстрактной тревогой о будущем, а опираются на реальные случаи, техническую осуществимость и заметные пробелы в процессах — от избирательной сферы до банковской ( apnews.com; apnews.com). Есть эффективные рычаги: ясные запреты, лучшая аутентификация, доказательства происхождения и прозрачные правила платформ. docs.fcc.gov; securityconference.org; openai.com). Важно, чтобы их применяли последовательно и чтобы мы все могли распознавать обманы вовремя.