Illustration for article titled Now There's a Deepfake Audio Platform Where Celebrities Can License AI-Generated Voice Clips

گرافیک: Veritone

هر زمان که deepfakes خبر را تهیه می کند ، تقریباً همیشه برای آخرین اخبار راه وحشتناک بازیگران بد فهمیده اند که چگونه با استفاده از فناوری مجهز به هوش مصنوعی ، تخریب ها یا مزاحمت های اینترنتی را تخم ریزی می کنند. با این حال ، صنعت رسانه برخی کاربردهای عملی تر (و کمتر شوم) را پیدا کرده است ، مانند استفاده از مبادله های چهره برای ساخت جلوه های بصری واقعی تر ، همگام سازی دهان بازیگران با گفتگو در فیلم های دوبله شده ، و اکنون ، خودکار کردن کار صدا.

Veritone ، سازنده اولین سیستم عامل جهان برای هوش مصنوعی ، aiWare ، یک سیستم عامل جدید این هفته به نام Marvel.ai که به سازندگان محتوا ، افراد مشهور ، و دیگران برای صدور مجوز متناسب با صلاحدید خود از صدای خود عمیق صدا ایجاد می کنند.

سطح Veritone هفتم است در شرکت های رسانه ای و شخصیت ها می توانند محتوای صوتی کسب درآمد را رد کنند و بدون اینکه هرگز پا در استودیو بگذارند ، درآمد کسب کنند – زیرا به هر حال وقت صرف می شود. ساخته شده در سیستم عامل aiWare ، Marvel.ai کلیپ های صوتی مصنوعی تولید می کند که ادعا می کند صدای واقعی رادیوها ، کتابهای صوتی ، صدای صوتی و محتوای بومی شده به نظر واقعی است ، در میان نمونه های دیگر.

این شرکت در گفت: “با کنترل کامل بر صدای آنها و استفاده از آن ، هر تأثیرگذار ، شخصیت یا شخصیتی می تواند به طور واقعی در چندین مکان باشد.” اطلاعیه مطبوعاتی a جمعه “این می تواند دریچه ای برای مقیاس جدیدی باشد که قبلاً از نظر انسانی امکان پذیر نبود ، به آنها امکان می دهد تعداد پروژه ها ، حمایت های مالی و حمایت هایی را که می توانند در هر سال انجام دهند افزایش دهند.”

این فرایند که به اصطلاح شبیه سازی صدا نیز معروف است ، از الگوریتم های هوش مصنوعی و یادگیری ماشینی برای تکرار صدای شخص بر اساس مجموعه ای از نمونه های صوتی استفاده می کند. پلت فرم Marvel.ai خود به عنوان بازاری فعالیت می کند که مشتریان می توانند درخواست استفاده از یک مدل صوتی خاص برای محتوای تولید شده خودکار و یک ابزار سلف سرویس را ارائه دهند که شبیه خواننده متن به گفتار سنتی شما باشد و به کاربران اجازه می دهد از یک فهرست صداهای از پیش تولید شده برای ایجاد یک کلیپ صوتی سفارشی.

در مصاحبه با آستانه ، رایان استیلبرگ ، رئیس Veritone گفت که این سرویس دیگری را ارائه می دهد – “رویکرد دستکش سفید مدیریت شده” – جایی که مشتریان می توانند کلیپ های صوتی را برای آموزش سیستم های Veritone ارسال کنند و کلون صدای خود را برای مجوز تولید کنند.

صحبت با رسانه ، استیلبرگ توضیح داد که گرچه Veritone قبل از هر چیز خود را به عنوان یک توسعه دهنده هوش مصنوعی معرفی می کند ، همچنین به تبلیغات مدرسه قدیمی و صدور مجوز برای محتوا بستگی دارد بخش عمده ای از درآمد آن. وی گفت ، شرکت تابعه تبلیغاتی آن ، Veritone One ، به شدت در صنعت پادکست سرمایه گذاری شده است و هر ماه بیش از 75000 “ادغام آگهی” را با تأثیرگذاران قرار می دهد.

استیلبرگ به Verge گفت: “این بیشتر یکپارچه سازی های بومی است ، مانند جایگذاری محصولات.” “این استعداد صداگذاری حمایت های مالی و تبلیغاتی را دارد. این بسیار موثر اما بسیار گران و وقت گیر است. “

این تخصص تبلیغات همراه با پیشرفت های فن آوری در تولید گفتار در سال های اخیر باعث ایجاد انگیزه در شرکت برای ایجاد راه حل بهتر شده است. البته ، اینکه پلتفرم Veritone کار کند تا حد زیادی به قانع کننده بودن کلون های صوتی آن بستگی دارد. استیلبرگ چند نمونه از محصول نهایی Marvel.ai را با Verge به اشتراک گذاشت که می توانید اینجا و کلون به نظر من کافی انسانی است. لحن کمی غیر عادی است به گونه ای که نمی توانم انگشتم را روی آن بگذارم. با این حال ، صادقانه می گویم ، دشوار است تشخیص دهید که آیا این فقط مغز من است که “متقاعد کننده” من به نظر می رسد که به نظر می رسد از آنجا که من می دانم این از یک روبات است و نه از یک شخص.

در حالی که من می دانم که قبلاً اشاره کردم که صنعت رسانه در حال یافتن برنامه های کمتر شرورانه از فن آوری deepfake است ، یک جنبه از Marvel.ai وجود دارد که مکث جدی به من می دهد . هر کسی که دارای حقوق قانونی دارای صدا باشد – به عنوان مثال. نه تنها شخص پشت صدا – می تواند از سیستم عامل برای ایجاد هر پیام صوتی که دوست دارد استفاده کند. و این باعث می شود بسیاری از پرچم های قرمز حریم خصوصی و پتانسیل های سو mis استفاده که باعث افزایش فیلم های جعلی عمیق شده است. استیلبرگ به Verge گفت: Marvel.ai حتی می تواند صدای مردگان را با استفاده از ضبط های بایگانی شده برای آموزش سیستم های هوش مصنوعی خود زنده کند.

“هر کس حق چاپ این صداها را دارد ، ما با آنها کار خواهیم کرد تا آنها را به بازار بیاوریم. ” “این به عهده دارنده حق خواهد بود و آنچه که آنها احساس می کنند مناسب است ، اما از نظر فرضی ، بله ، شما می توانید والتر کرونکایت را بخوانید که اخبار شبانه را دوباره بخواند.”

از نظر فناوری ، این کاملاً چشمگیر است. از نظر اخلاقی ، وحشتناک است و جهنم است. من واقعاً نیازی به شنیدن احیا مجدد کرونکایت و نام های بزرگ دیگر از طریق هوش مصنوعی ندارم ، مخصوصاً از آنجا که شما می دانید این فقط یک مسئله زمانی است که مارک های تجاری مانند استفاده از پرنسس دیانا برای تأیید Oreos یا دیوید بووی شروع به انجام لعنتی کنند تا شما را متقاعد کند که مشترک Spotify Premium شوید. منظورم این است که ، آیا هیچ چیز را از برجستگی هولوگرام شاهزاده ؟