Meta heeft een manier gevonden om AI gegenereerde spraak te watermerken zodat het beter te onderscheiden is van echte tekst. Hiermee is eens stap genomen om scams en misinformatie te tackelen. De tool AudioSeal kan in bijvoorbeeld een uur gesproken tekst pinpointen wat echt is en wat is gegenereerd met AI.
Er zijn steeds meer gevallen bekend waarbij stemmen van personen worden gebruikt om geld af te troggelen van nietsvermoedende mensen. Ook wordt er rondom democratische verkiezingen gretig gebruik gemaakt van deze technologie. De vraag om beeld en audio herkenning is al langer gaande, maar nu heeft Meta dus een tool weten te produceren die de echtheid van gesproken AI tekst kan herkennen.
Het is belangrijk in de gaten te houden hoe we de risico's van deepfakes kunnen opvangen.
Lees het artikel op MIT Review hier: Artikel
Wetenschappelijk document: Document