Как распознать голос, подделанный с помощью искусственного интеллекта?

«Привет, выручай... я попал в беду, нужны деньги...» Голос звучит как у твоего близкого друга, но действительно ли это голос твоего близкого?

Представьте, что вам звонит или присылает голосовое сообщение близкий человек — его голос вам прекрасно знаком. Он говорит, что попал в беду и ему срочно нужен денежный перевод... Но что-то кажется странным: вы не можете точно определить, что именно, однако вас начинают терзать сомнения и подозрения — возможно, из-за самой ситуации, из-за особенностей голоса или из-за того, что человек не отвечает на ваши ответные звонки, и так далее.

Итак, прежде чем предпринимать какие-либо действия, остановитесь и задумайтесь: в эпоху искусственного интеллекта то, что вы слышите, не всегда является истиной. Технология клонирования голоса (Voice Cloning) стала настолько совершенной, что позволяет с высокой точностью имитировать голос любого человека, открывая путь для нового поколения изощренных мошеннических схем. Далее я расскажу о способах, которые помогут вам распознать поддельные голоса — будь то во время телефонного разговора или в аудиозаписях.

1. Как работает клонирование голоса с помощью искусственного интеллекта?

Проще говоря, системы искусственного интеллекта анализируют короткий образец голоса человека — например, из видео в социальных сетях или голосового сообщения, — выделяя такие уникальные характеристики, как тембр, частота и ритм. Освоив эти особенности, ИИ способен сгенерировать любую новую фразу, полностью имитируя этот голос, из-за чего отличить подделку на слух становится крайне сложно.

1. Тревожные признаки: как распознать поддельный голос на слух?

Несмотря на свое развитие, эта технология все же оставляет следы, которые может заметить внимательный слушатель; поэтому, если у вас возникли сомнения по поводу какого-либо звонка или голосового сообщения, обратите внимание на эти тонкие различия:

1. Механический или монотонный тон: голосу недостает естественных эмоциональных модуляций. Это часто случается, когда пользователь, создающий или записывающий аудио с помощью специализированных онлайн-сервисов, не обладает навыками управления голосом и не имеет достаточного опыта в этой сфере. Однако в ряде случаев (которых становится всё больше) качественное управление процессом и грамотная генерация позволяют получить звучание, лишенное механистичности и монотонности.
2. Неестественные паузы: странные остановки или незначительные разрывы между словами — явление довольно распространенное, особенно заметное при генерации длинных фрагментов речи. В то же время в некоторых случаях (в зависимости от исходного образца) речь звучит непрерывно, без каких-либо пауз или остановок, что противоречит естественной человеческой манере говорить; разумеется, при этом отсутствуют и естественные запинки, свойственные практически любой обычной человеческой речи.
3. Отсутствие звуков дыхания: речь кажется неестественно непрерывной, хотя и не обязательно прерывистой (что зависит от конкретного клонированного образца). Однако даже если дыхание присутствует, оно не звучит естественно: модели искусственного интеллекта пока не научились качественно воспроизводить человеческое дыхание. В результате можно заметить прерывистость, вдохи в неуместных для этого моментах или слишком громкий звук дыхания по сравнению с общим уровнем записи.
4. Легкий цифровой шум: едва слышный электронный фоновый шорох. Это часто происходит, если исходный образец низкого качества — например, при использовании записей из социальных сетей, WhatsApp или других подобных приложений. Такие платформы обычно сжимают загружаемые файлы для соответствия собственным стандартам кодирования, что снижает качество аудио и приводит к появлению фоновых цифровых помех. Несмотря на развитие технологий шумоподавления, их применение также изменяет естественные характеристики и высоту тона исходного образца, тем самым влияя на итоговый результат.
5. Несовершенное произношение: трудности с артикуляцией некоторых сложных слов или имен — одна из наиболее заметных проблем, особенно в арабском языке. Несмотря на прогресс моделей искусственного интеллекта, системы синтеза речи сталкиваются со значительными сложностями при работе с литературным арабским языком (фусха). Еще более серьезная проблема возникает с разговорными диалектами: из-за их взаимопроникновения ИИ часто путает их между собой. Например, носителю египетского диалекта может быть трудно отличить эмиратский диалект от других диалектов Персидского залива (и наоборот); в то же время для самого жителя ОАЭ разница между его родным диалектом и другими диалектами региона очевидна, включая даже самые тонкие нюансы. Это касается всех региональных и разговорных арабских диалектов и даже особенностей произношения литературного языка.
6. Расширенный анализ: инструменты для обнаружения записанных голосов (новинка)

Когда речь идет о записанном голосовом сообщении (например, в WhatsApp) или любом другом аудиофайле, у вас появляется дополнительное преимущество: возможность использовать специализированные технические инструменты для более глубокого анализа. Эти инструменты не полагаются на человеческий слух, а анализируют цифровой отпечаток звука.

Как работают эти инструменты?

Эти платформы анализируют звуковой спектр (спектрограмму) для поиска признаков, которые человеческое ухо не может легко уловить, таких как:

1. Цифровые артефакты (Digital Artifacts): небольшие остаточные явления процесса искусственной генерации звука.
2. Аномальные частоты: отсутствие или наличие частот, не соответствующих естественной человеческой речи.
3. Повторяющиеся паттерны: автоматическое повторение звуковых моделей, не свойственное людям.

Существуют ли вспомогательные средства для обнаружения звука?

Да, существует все больше инструментов, предлагающих эту услугу: некоторые из них доступны широкой аудитории, а другие предназначены для компаний.

Примерами этого являются:

1. AI Voice Detector — это простая платформа, позволяющая загрузить аудиофайл и узнать вероятность того, что он был сгенерирован искусственным интеллектом.
2. Resemble AI Detect — специализированный инструмент от ведущей компании в сфере генерации голоса, предназначенный для точного обнаружения поддельных голосов.
3. ElevenLabs AI Speech Classifier — еще один популярный инструмент, способный анализировать аудиозапись и определять, была ли она создана с помощью их платформы.

Важное замечание: эти инструменты весьма полезны, но не гарантируют стопроцентной точности и иногда могут давать неоднозначные результаты. Поэтому их следует использовать как вспомогательное средство, дополняющее ваше логическое суждение, а не как его замену.

1. Шаги для мгновенной проверки: ваше практическое руководство на случай сомнений

Если у вас возникли сомнения — будь то во время разговора в реальном времени или после анализа аудиозаписи, — немедленно примените эти эффективные стратегии:

1. Задайте личный вопрос: это самый надежный и быстрый способ — спросите об общем воспоминании или личной информации, которую знает только реальный человек.
2. Попросите перезвонить: завершите подозрительный звонок и сами свяжитесь с человеком по номеру, который у вас сохранен.
3. Используйте другой канал связи: скажите собеседнику: «Я сейчас позвоню вам по видеосвязи».
4. Договоритесь заранее о кодовом слове — это отличная превентивная мера для семей на случай чрезвычайной ситуации.

Технология клонирования голоса стала реальностью, однако знания и осведомленность остаются нашим самым мощным оружием. Вместо того чтобы отвергать эту технологию, лучше понять ее — пусть даже в общих чертах, — ведь это защитит вас и вашу семью. Кроме того, в научной сфере она открывает перед всеми новые горизонты — научные, культурные и образовательные, — в том числе и для людей с ограниченными возможностями.

Будь осознанным и не бойся встретиться с развитием.

Если вас заинтересовала технология озвучивания с помощью искусственного интеллекта, попробуйте сервис «Makina» . Он учитывает все этические нормы клонирования голоса и генерирует реалистичный, профессиональный звук.

Попробуйте прямо сейчас