A kezdetek óta nyilvánvaló, hogy a gépi tanuláson alapuló tartalomgenerátorok sok munkát fognak adni a bűnüldöző szerveknek, hiszen a rohamosan fejlődő mesterséges intelligencia kiválóan alkalmas a hamisításra, legyen szó képekről, hangokról, videófelvételekről vagy akár egy komplett konferenciahívásról. Hogy ez milyen szerteágazó veszélyeket rejt magában, azt kiválóan bizonyítja Dazhon Leslie Darien, a Pikesville Középiskola egykori sportigazgatójának története, aki egy hamisított AI-hangfelvétellel keverte rasszista botrányba az intézmény igazgatóját, annak ideiglenes eltávolításához vezetve.

A The Register beszámolója szerint Darien azt követően indított hadjáratot a felettese, Eric Eiswert ellen, hogy az közölte vele, hogy "teljesítménygondok" miatt nem fogják meghosszabbítani a szerződését. A sportigazgatóval szemben olyan vádak merültek fel, mint egy edző engedély nélküli kirúgása és az iskola pénzének ellopása.

Az elbocsátásáról értesülve Darien egy ismeretlen, mesterséges intelligencia-alapú szolgáltatással hamisított hangfelvételt készített egy beszélgetésről, amelyben Eiswert rasszista kijelentéseket tett az intézmény fekete diákjainak értelmi képességeiről, a zsidókról és két kollégáról, akiket "soha nem szabadott volna felvenni" az iskolába. A hamis anyagot aztán egy Gmail-fiókról terjesztette el az alkalmazottak és a diákok körében.

A megtévesztő hanganyag óriási felháborodást okozott, az iskola közösségi oldalait ellepték a gyűlölködő üzenetek, az igazgató pedig halálos fenyegetéseket kapott és ideiglenesen el is távolították a pozíciójából. Eiswert azonban közölte a nyomozókkal, hogy sosem zajlott le a felvételen hallható beszélgetés, és egyúttal azt is, hogy a fennálló konfliktusuk és a férfi technikai jártassága miatt Darienre gyanakszik.

A rendőrség végül szakértők bevonásával megerősítette, hogy mesterséges intelligenciával készült hamisítványról van szó, valamint azt is felderítették, hogy az anyagot elterjesztő Gmail-fiók Darien nagyanyjának házában került regisztrálásra, így végül elfogatóparancsot adtak ki ellene. A hamisítót végül egy reptéren vették őrizetbe, miután a biztonsági személyzet feltartóztatta egy nem megfelelően becsomagolt lőfegyver miatt, az ellenőrzése során pedig kiderült, hogy körözi a rendőrség. A férfinek most az iskola rendjének megzavarása, zaklatás, tanúk elleni megtorlás, valamint lopás és zaklatás vádja miatt kell felelnie.

A jövőben jelentősen megnőhet a hasonló esetek száma, hiszen jelenleg nagyon pezseg az AI-beszédmodellek piaca, egyebek mellett az Meta, a Microsoft és az OpenAI is rendelkezik ilyen technológiával. Habár ezek a jelentős cégek óvatosan járnak el, és egyelőre nem tették széles körben elérhetővé a megoldásaikat, nem ők az egyetlen szereplők a ringben, ahhoz pedig már egy kisebb szolgáltatótól származó, kevésbé fejlett hamisítvány is elégnek bizonyulhat, hogy gyanúba keverjen valakit.