Meta’nın geliştirdiği VoiceBox, güvenlik riskleri nedeniyle yayınlanmayacak

Facebook’un ana şirketi Meta, geçtiğimiz hafta yayınladığı bir blog yazısıyla Voicebox’ı duyurdu. Meta’ya göre Voicebox “konuşma üretimi için en çok yönlü yapay zeka”. Yazılım, ses düzenleme, örnekleme, stil oluşturma ve erişilebilirlik konularında yardımcı olmak amacıyla geliştirildi.

SESİ TAKLİT ETMESİ İÇİN İKİ SANİYE DİNLEMESİ YETİYOR

Meta tarafından geliştirilen Voicebox, bir kişinin sesini duyar duymaz aynı sesi taklit edebiliyor. Örneğin Voicebox’a sesinizi dinlettiğinizde, uygulama kısa sürede sesinizi analiz edip taklit edebiliyor ve hangi metin olursa olsun o metni sorunsuz olarak sizin taklit edilen sesinizle okuyabiliyor.

Şirket geliştirilen yapay zekanın güvenlik riskleri nedeniyle yayınlanmayacağını duyurdu.

Geliştirilen yapay zeka,; ChatGPT metin için, DALL-E sanat için neyse, Voicebox da ses için o anlama geliyor.

BİR KİŞİNİN SESİNİ ÜRETEBİLMESİ İÇİN DİNLEMESİ YETİYOR

Meta yeni yazılımı tanımlarken “Voicebox yüksek kaliteli ses klipleri üretebilir ve önceden kaydedilmiş sesleri düzenleyebilir (araba kornalarını ya da köpek havlamasını kaldırmak gibi); tüm bunları yaparken sesin içeriğini ve stilini korur” diye yazdı. “Model aynı zamanda çok dilli ve altı dilde konuşma üretebiliyor.”

Model, İngilizce, Fransızca, İspanyolca, Almanca, Lehçe ve Portekizce dillerinde 50.000 saatin üzerinde filtrelenmemiş ses kullanılarak eğitildi.

Meta’ya göre Voicebox %1’lik bir hata oranı düşüşüne sahiptir.

KULLANICILAR GELEN METİN MESAJLARINI GÖNDERENİN SESİYLE DUYABİLECEK

Meta, yazıda Voicebox’ın çeşitli görevleri yerine getirmeye yardımcı olabileceğini söylüyor, ancak başlıca kullanım durumlarını vurguluyor: bağlamsal metinden konuşmaya sentez, konuşma düzenleme ve gürültü azaltma, diller arası stil aktarımı ve çeşitli konuşma örneklemesi.

Meta’nın yazısında Voicebox’ın “üretken yapay zeka araştırmamızda ileriye doğru atılmış önemli bir adım” olduğunu belirttiği göz önüne alındığında, Voicebox’ın erişilebilirlikle ilgili çıkarımları karşısında heyecanlanmamak elde değil. Meta, duyurularının başında Voicebox’ın “görme engelli kişilerin arkadaşlarından gelen yazılı mesajları kendi sesleriyle duymalarını sağlayabileceğini” yazarak bunu kabul ediyor.

DERİN SAHTE İÇERİKLERİN ARTMASINDAN KORKULUYOR

Forbes dergisinin internet sitesinde yayınlanan makaleye göre uzmanlar yapay zeka’nin giderek artan önemi ve kapasitesi, bilinçli bilgisayarlar tarafından köleleştirilmeye mahkum olduğumuz anlamına gelmediğini belirtiyor.

Digital Trends’ten Fionna Agomuoh’un geçen hafta yayınladığı bir rapora göre, Meta’nın şu anda Voicebox’ı ya da kaynak kodunu halka açma gibi bir planı yok. Agomuoh’un da belirttiği gibi, FBI “derin sahte içerik” konusunda giderek daha fazla endişe duymaya başladı. Kolluk kuvvetleri, Agomuoh’un hikayesinde yazdığı gibi, “gasp, şantaj ve taciz” içeren suçlar konusunda zaman içinde uyarılarda bulundu.

Meta, Voicebox’ın kamuya açılmasını engelleme kararının kısmen, yapay zeka tabanlı teknolojiler geliştirirken “açıklık ile sorumluluk arasında doğru dengeyi kurmanın gerekli” olmasından kaynaklandığını söyledi.