6 больших проблем с дипфейковой музыкой

Новые песни известных исполнителей становятся вирусными в социальных сетях, что обычно не является проблемой, за исключением случаев, когда поет голосовой клон. Хотя дипфейк-музыка была одной из последних, которая устояла, теперь она стала реальностью.

Он работает путем обучения модели ИИ голосу певца, и результаты не всегда плохие. Создание дипфейковых песен требует большого творчества, но проблема не только в результате. Во многих случаях разрешение не предоставляется, и вопросы о том, кому платят и этично ли это, — лишь некоторые из проблем дипфейковой музыки.

1. Несанкционированные наборы данных

Если вы хотите создать дипфейковый трек известного исполнителя, вам нужно собрать аудиофайлы с его певческим голосом в набор данных. Как и любые данные, которые принадлежат кому-то, вы, вероятно, должны получить их разрешение на их использование, но дипфейк песня может попасть на крупную музыкальную платформу, такую ​​как YouTube, Spotify или TikTok, используя неавторизованный набор данных.

Это произошло с художниками Дрейком и The Weeknd, когда пользователь Ghostwriter создал «Heart on My Sleeve». В хитовой песне использовались синтезированные искусственным интеллектом голоса артистов, а также слова о бывшей девушке The Weeknd.

Песня действительно понравилась фанатам, и Ghostwriter получил дополнительную похвалу за творческое использование дипфейкового вокала. Об этом сообщила газета «Сиэтл таймс»., не все так видели. Представитель Universal Music Group, крупного лейбла, стоящего за обоими артистами, спрашивает:

«На какой стороне истории хотят быть заинтересованные стороны в музыкальной экосистеме: на стороне артистов, фанатов и человеческого творческого самовыражения или на стороне глубоких фальсификаций, мошенничества и отказа художникам в их должной компенсации?»

2. Устаревший закон об авторском праве

Если вы артист, который не хочет, чтобы ваш голос был клонирован, закон об авторском праве может вам пока не помочь. Поскольку наши законы об авторском праве были написаны в то время, когда такого типа технологии искусственного интеллекта не существовало, неудивительно, что законы все еще пытаются наверстать упущенное.

Ближайшее судебное дело о «краже голоса» в США относится к 1990-м годам. Как сообщает Лос-Анджелес Таймс, певец Том Уэйтс выиграл 2,475 миллиона долларов в качестве возмещения ущерба от Frito-Lay Inc., могущественного гиганта по производству чипсов, стоящего за Doritos, Cheetos, Cracker Jack's и другими.

В рекламе использовался голос человека, который звучал достаточно близко к Тому Уэйтсу, чтобы люди могли поверить, что за рекламной кампанией стоит настоящий художник. То же самое можно сказать и о дипфейковых песнях, которые в настоящее время циркулируют, но музыку ИИ еще предстоит проверить в судебном порядке.

Пока мы ждем обновления правовой системы, стоит отметить, что не у всех есть проблема с тем, что люди клонируют свой голос. Холли Херндон, например. Столкнувшись с надвигающимся потоком музыкальных приложений с искусственным интеллектом, она решила авторизовать своего вокального близнеца по имени Холли+ вместе с системой, которая давала ей справедливое вознаграждение.

Какую бы сторону вы ни приняли, проблема остается той же. Не существует специального закона об авторском праве, в котором говорится, что вам необходимо получить разрешение от артиста, прежде чем использовать его голос. А до тех пор художники могут оказаться на диком западе технологий ИИ, где нет законов, которыми они могли бы руководствоваться.

3. Кому платят?

Можно ли зарабатывать деньги на музыке, используя чей-то голос? Это сложный вопрос, который может стать еще большей проблемой, поскольку все больше дипфейковой музыки публикуется на потоковых платформах и монетизируется в социальных сетях.

Как мы все знаем, можно спеть кавер на известную песню и опубликовать ее на YouTube или Spotify, и в этом случае такие вещи, как текст, структура песни, мелодия, ритм и т. д. копируются. Но вокальные клоны — это совсем другое, и дипфейковая музыка — это не просто рифф существующей песни, а создание совершенно новой песни с использованием чужого голоса.

Иными словами, голосовых клонов не существовало бы, если бы не инструменты искусственного интеллекта и неавторизованные наборы данных. Артисты всю жизнь оттачивают голос, с которым они родились, и создают уникальный звук. Украсть чей-то голос и заработать на этом деньги может быть слишком далеко.

4. Серый жанр

Чтобы усложнить ситуацию, некоторые люди могут не считать дипфейковую музыку чем-то совсем плохим. В отличие от дипфейковых изображений или видео, над которыми вы можете ненадолго посмеяться, прежде чем прокрутить их на своем телефоне, дипфейковая музыка выстраивается в отдельный жанр.

Некоторые люди сравнивают это с идеей написания фанфиков, веселого и творческого способа воздать должное художнику. Это более позитивная точка зрения, из-за которой трудно исключить дипфейковую музыку как простое табу. Просто взгляните на подход Холли Херндон к клонированию голоса ИИ в видео ниже.

Хотя не все согласны с тем, что такая музыка должна быть разрешена. Как пишет «Файнэншл Таймс»., крупный звукозаписывающий лейбл Universal Music Group стремился удалить с потоковых платформ песни более низкого качества, в том числе созданные искусственным интеллектом. В конце концов, потоковым платформам, таким как Spotify, Apple Music или Tidal, придется принять решение о том, разрешен ли этот жанр музыки на их платформе.

Музыка Deepfake разжигает подобные дебаты, которые уже ведутся в мире искусства: следует ли считать искусство, созданное ИИ, искусством? Только сейчас мы ставим под сомнение музыку ИИ.

5. Этические проблемы, связанные с расой и идентичностью

Эпоха дипфейковой музыки началась с появления большого количества музыки, имитирующей рэп. Поскольку исторические корни этого жанра восходят к афроамериканской молодежи, выросшей в Бронксе, Нью-Йорк, в начале 1970-х, некоторые люди обеспокоены расой и идентичностью в музыке ИИ.

Писатель Лорен Шанель, — это один человек, который считает дипфейковую музыку серьезной проблемой. Как указано в статья в Нью-Йорк Таймс, они объясняют:

«Это еще один способ для людей, которые не являются черными, надеть костюм черного человека — поднять руки вверх по Канье или Дрейку и сделать из них марионетку — и это тревожит меня». «Это всего лишь еще один пример из длинной череды людей, недооценивающих то, что требуется для создания искусства, которое исторически делать."

Это не первый случай, когда музыка, созданная с помощью инструментов ИИ, не может быть этичной. Как сообщается в журнале Rolling Stone., виртуальный аватар рэпера по имени FN Meka был подписан на лейбл, а затем быстро ушел, когда онлайн-гражданские Правозащитная группа Industry Blackout написала, что проект увековечивает «грубые стереотипы» о Back культура.

Во всяком случае, дипфейковая музыка напоминает нам, что инструменты искусственного интеллекта нельзя отделить от истории создания музыки, и игнорирование этого добавляет опасности дипфейков ИИ.

6. Причинение вреда художникам

Одна вещь, которую не следует упускать из виду, — это эмоциональное воздействие, которое может оказать дипфейковая песня на исполнителя, особенно если это клонированный голос. могут петь о ситуациях, которых никогда не было, выражать чужие эмоции и притворяться, что им небезразличны вещи, которых они могут не знать.

В случае с поддельной песней Drake ft. The Weeknd, в лирике были строчки о Селене Гомес, которая встречалась с The Weeknd. Используя смесь реальных фактов и выдуманной лирики, это было странное искажение реальности, которое могло быть вредным для артиста, пережившего реальный опыт.

Сходным образом, создание текстов песен, созданных искусственным интеллектом «В стиле» кого-то известного, использующего текстовые генераторы ИИ, привело некоторых художников в отчаяние по поводу использования технологии ИИ. Как говорит Ник Кейв, «В данном случае ChatGPT — это пародия на репликацию».

Музыка Deepfake способна вложить в уста артиста слова, которые он никогда не произносил или, в данном случае, не пел. На личном уровне это может нанести ущерб художнику, который мало контролирует удаление контента, не обращаясь в суд.

Подготовка к изменениям в музыкальной индустрии

Благодаря растущему доступу к инструментам ИИ музыка вошла в мир дипфейков, в частности, через голосовые клоны. Чрезвычайно сложно определить разницу между голосом ИИ и человеческим голосом, просто слушая, что позволяет дипфейковой песне легко достичь потоковых платформ, прежде чем ее удалят.

С одной стороны, фанатам может понравиться дипфейковая музыка, и может появиться настоящий жанр, в котором известные голоса используются для создания новой и интересной музыки. Но не каждый артист согласен на клонирование своего голоса, и нет законов, запрещающих людям создавать несанкционированные наборы данных.

Получение согласия, компенсация артистам и изучение этических проблем — вот лишь несколько проблем, с которыми сталкиваются артисты и музыкальная индустрия. В связи с быстрым развитием технологий искусственного интеллекта стоит сделать паузу, чтобы подумать о проблемах, которые они создали.