Şirket, Twitter’da 'artan sayıda ses klonlama kötüye kullanım vakası' gördüğünü ve 'ek güvenlik önlemleri uygulayarak' sorunu çözmenin bir yolunu düşündüğünü açıkladı.
ElevenLabs, 'kötüye kullanım vakaları' ile ne kastedildiğini ayrıntılı olarak açıklamasa da, Motherboard, ünlülerin şüpheli ses taklitlerine denk geldiklerini duyurdu. Örneğin bir klipte, Emma Watson’ın Mein Kampf’ın bir bölümünü okumasına benzeyen bir sesin yer aldığı bildirildi.
Kullanıcılar ayrıca homofobik, transfobik, şiddet içeren ve ırkçı duygular içeren ses klipleri yayınladılar. Tüm kliplerin ElevenLab’ın teknolojisini kullanıp kullanmadığı tam olarak belli değil, ancak online platformlardak geniş bir ses dosyası koleksiyonu içeren bir gönderi, girişimin platformuna bir bağlantı içeriyordu.
Yapay zeka ve makine öğrenimindeki gelişmeler, derin sahte videolarda karşımıza çıkmaya devam ediyor. Günden güne gelişen teknoloji ile AI yenilense de ne yazık ki kötüye kullanım da karşımıza çıkmaya devam ediyor.
