Kontroverze kolem rozpoznávání řeči na iPhonu: „Rasista“ se mění na „Trump“

Nedávno jsem narazil na video na sociálních sítích, které mě přimělo zpochybnit technologie, které denně používám. Konkrétně šlo o funkci převodu řeči na text na mém iPhonu.

Vše začalo videem na TikToku, které tvrdilo, že při použití funkce převodu řeči na text od Applu se slovo „rasistický“ nejprve zobrazí jako „Trump“, než se automaticky opraví. Zvědavý a poněkud skeptický jsem se rozhodl toto tvrzení ověřit.

Otevřel jsem aplikaci Zprávy na svém iPhonu a začal jsem experimentovat. K mému překvapení se výsledky shodovaly s tím, co ukazovalo video na TikToku. Když jsem řekl „rasistický“, funkce převodu řeči na text skutečně nejprve napsala „Trump“, než se rychle opravila na „rasistický“. Abych si ověřil, že nejde o jednorázovou chybu, test jsem několikrát opakoval. Vzor se opakoval, což mě velmi znepokojilo.

Toto chování vyvolává vážné otázky ohledně algoritmů, které pohánějí náš software pro rozpoznávání řeči. Mohlo by se jednat o případ zaujatosti umělé inteligence, kde systém nedopatřením vytvořil spojení mezi určitými slovy a politickými osobnostmi? Nebo je to jen zvláštnost ve vzorcích rozpoznávání řeči?

Jedním z možných vysvětlení je, že software pro rozpoznávání řeči může být ovlivněn kontextovými daty a vzory používání. Vzhledem k častému spojování termínu „rasistický“ s „Trumpem“ v médiích a veřejné debatě by software mohl chybně předpovědět „Trump“, když se řekne „rasistický“. To by mohlo být výsledkem algoritmů strojového učení, které se přizpůsobují převládajícím jazykovým vzorům, což vede k neočekávaným přepisům.

Jako někdo, kdo se často spoléhá na převod řeči na text, mě tato zkušenost přiměla přehodnotit, jak moc této technologii důvěřuji. Ačkoli je obvykle spolehlivá, takovéto incidenty připomínají, že funkce poháněné umělou inteligencí nejsou neomylné a mohou produkovat neočekávané a potenciálně problematické výsledky.

Technologie rozpoznávání řeči dosáhla významného pokroku, ale je jasné, že stále existují výzvy. Vývojáři stále řeší problémy s vlastními jmény, akcenty a kontextem. Tento incident zdůrazňuje, že ačkoli je technologie pokročilá, stále je to práce v procesu. Kontaktovali jsme společnost Apple s žádostí o komentář k tomuto incidentu, ale do uzávěrky jsme nedostali odpověď.

Toto vyšetřování inspirované TikTokem bylo poučné, slušně řečeno. Připomíná nám to důležitost kritického přístupu k technologiím a nebrat každou funkci jako samozřejmost. Ať už se jedná o neškodnou chybu, nebo o symptom hlubšího problému algoritmické zaujatosti, jedna věc je jasná: musíme být vždy připraveni zpochybňovat a ověřovat technologie, které používáme. Tato zkušenost mě rozhodně přiměla k zamyšlení a připomněla mi, abych si dvakrát zkontroloval své zprávy z převodu řeči na text, než je pošlu někomu dalšímu.