OpenAI розробила інструмент для клонування голосу
OpenAI розробила інструмент для клонування голосу, проте його використання поки що обмежене. У разі швидкого поширення фейків, компанія прагне відповідально вдосконалювати технологію клонування голосів.
Voice Engine від OpenAI, будучи розширенням існуючого API для перетворення тексту на мову, знаходиться в розробці близько двох років. Цей інструмент дозволяє створити синтетичну копію будь-якого голосу за 15-секундним зразком. Тим не менш, дата загальнодоступного релізу поки не визначена, що дає компанії час на адаптацію до потенційного використання та запобігання зловживанню моделлю для різних махінацій.
Читайте нас у Telegram: тільки найактуальніші та перевірені новини
Модель штучного інтелекту, що лежить в основі Voice Engine, тривалий час була доступна публіці, застосовуючись, зокрема, у можливостях голосового та "читання вголос" у ChatGPT, а також у пресетах голосів в API перетворення тексту на OpenAI. Spotify використовує її з початку вересня для дублювання подкастів відомих ведучих, таких як Лекс Фрідман, різними мовами.
Дані для навчання моделі взято з ліцензованих та загальнодоступних джерел, проте деталі залишаються за лаштунками через чутливість та потенційні юридичні ризики.
Voice Engine не навчається та не налаштовується на даних користувачів завдяки особливостям роботи моделі. Інструмент аналізує аудіодані та текст, призначений для озвучування, створюючи відповідний голос без необхідності створення окремої моделі для кожного оратора.
Багато компаній та великі технологічні гравці вже запропонували продукти для клонування голосу. Проте у OpenAI стверджують, що їхній підхід забезпечує більш високу якість речення та пропонуватиметься за конкурентоспроможною ціною. Незважаючи на це, Voice Engine поки не пропонує інструменти регулювання тону, висоти звуку або темпу голосу.
Застосування технології клонування голосу може вплинути на ринок праці голосових акторів, але OpenAI не планує укладати угоди з профспілками або створювати ринки для свого продукту. Компанія вимагає від користувачів отримати "явну згоду" від людей, чиї голоси клонуються, і чітко вказувати, які голоси згенерували ШІ.
Використання додатків для клонування голосу може бути зловживальним, що викликає занепокоєння щодо етики та можливості створення фейкових матеріалів. OpenAI робить кроки для запобігання неправомірному використанню Voice Engine, включаючи обмежений доступ до інструменту та зосередження на соціально корисних застосуваннях.
При успішному попередньому тестуванні та позитивній реакції громадськості на Voice Engine OpenAI може розширити доступ до інструменту для більш широкого кола розробників. Надалі компанія досліджує механізми безпеки, такі як вимога читати текст, що випадково генерується, для підтвердження поінформованості про те, як використовується голос користувача.