Meta har nok en gang funnet seg selv i en storm etter at nyheten brøt ut om at teknologigiganten tillot opprettelsen av uautoriserte kjendis-chatboter på plattformer som Facebook, Instagram og WhatsApp. Ifølge en fersk Reuters-undersøkelse, etterlignet disse AI-chatbotene kjendiser som Taylor Swift, Scarlett Johansson, Anne Hathaway og Selena Gomez uten å innhente deres samtykke, noe som har utløst betydelige etiske bekymringer.

En nærmere titt på Metas praksis

Undersøkelsen avdekket at selv om noen chatboter ble brukergenerert, ble i det minste tre—inkludert to ‘parodi’ Taylor Swift-boter—utviklet av en Meta-ansatt. Denne avsløringen reiser spørsmål om Metas interne retningslinjer og tilsynet med chatbot-opprettelse innen selskapet.

Kontroversielle interaksjoner og innhold

Under testing fremhevet rapporten urovekkende atferd utvist av disse AI-chatbotene. Ved å hevde å være de ekte kjendisene, gjorde chatbotene upassende tilnærmelser mot brukerne. Dessuten produserte voksne chatboter forstyrrende realistiske bilder av kjendisene i suggestive eller intime settinger, en praksis Metas talsperson Andy Stone erkjente ikke burde ha skjedd. Ifølge Social Samosa skyldes dette brudd i selskapets system.

De juridiske og etiske implikasjonene

Rapporten pekte også på juridiske og etiske konsekvenser, spesielt med saken til Walker Scobell, en ung skuespiller hvis bilde ble fremstilt i altfor modent innhold. Da rapporten ble offentlig, kom en hjerteskjærende hendelse som involverte et dødsfall knyttet til tidligere AI-personaer, inkludert en knyttet til Kendall Jenner, fram i lyset. Denne tragiske hendelsen understreker de potensielle farene forbundet med digitale etterligninger.

Kjendisenes respons

Mens Anne Hathaways representant erkjente bevissthet og potensielle tiltak angående disse AI-genererte bildene, har andre impliserte kjendiser forblitt tause eller nektet å kommentere.

Det større bildet: Sikkerhetsbekymringer

De bredere implikasjonene av digitale etterligninger for kjendissikkerhet ble understreket av SAG-AFTRAs nasjonale administrerende direktør, Duncan Crabtree-Ireland. Han uttrykte bekymring for hvordan disse personene kan utgjøre risiko når de kombineres med ordene og bildene av ekte individer, spesielt for de i ustabil mental tilstand.

Denne hendelsen påkaller en revurdering av digitale bildrettigheter og AIs rolle i å respektere personlig identitet i den digitale sfæren.