Most mezi filozofií a umělou inteligencí: zkoumání etiky výpočetní techniky

V novém kurzu na MIT, vyučovaném profesory z oboru elektrotechniky a informatiky a filozofie, se studenti potýkají s morálními dilematy digitálního věku.

Profesor Armando Solar-Lezama, přední profesor výpočetní techniky na MIT, klade studentům kurzu 6.C40/24.C40 (Etika výpočetní techniky) stejnou nemožnou otázku, kterou si často klade sám ve svém výzkumu s Computer Assisted Programming Group na MIT:

„Jak zajistíme, aby stroj dělal to, co chceme, a jen to, co chceme?“

V době, kterou někteří považují za zlatý věk generativní AI, se tato otázka může zdát naléhavá. Solar-Lezama však rychle poukazuje na to, že tento boj je starý jako lidstvo samo.

Začíná vyprávět řecký mýtus o králi Mýdovi, panovníkovi, kterému byla udělena božská moc proměňovat vše, čeho se dotkne, ve zlato. Předvídatelně se přání obrátilo proti němu, když Mýdos náhodou proměnil všechny, které miloval, v pozlacený kámen.

„Dávejte si pozor, co si přejete, protože se vám to může splnit způsoby, které neočekáváte,“ varuje své studenty, z nichž mnozí jsou začínající matematici a programátoři.

Prohledává archivy MIT a sdílí snímky zrnitých černobílých fotografií, vypráví historii programování. Slyšíme o stroji Pygmalion z 70. let, který vyžadoval neuvěřitelně detailní pokyny, až po počítačový software z konce 90. let, jehož naprogramování trvalo týmům inženýrů roky a 800stránkový dokument.

Ačkoli byly tyto procesy ve své době pozoruhodné, trvaly příliš dlouho, než se dostaly k uživatelům. Nenabízely prostor pro spontánní objevování, hru a inovace.

Solar-Lezama hovoří o rizicích budování moderních strojů, které ne vždy respektují pokyny programátora nebo červené čáry, a které jsou stejně schopné způsobit škody jako zachraňovat životy.

Titus Roesler, student staršího ročníku oboru elektrotechniky, přikyvuje s porozuměním. Roesler píše svou závěrečnou práci o etice autonomních vozidel a zvažuje, kdo je morálně odpovědný, když takové vozidlo hypoteticky srazí a zabije chodce. Jeho argument zpochybňuje základní předpoklady technického pokroku a zvažuje více platných názorů. Opírá se o filozofickou teorii utilitarismu. Roesler vysvětluje: „Zhruba řečeno, podle utilitarismu je morální věc, která přináší největší dobro pro největší počet lidí.“

Filozof z MIT Brad Skow, se kterým Solar-Lezama vyvinul a společně vyučuje kurz, se nakloní dopředu a dělá si poznámky.

Kurz vyžadující technické i filozofické znalosti

Kurz Etika výpočetní techniky, nabízený poprvé na podzim 2024, byl vytvořen v rámci iniciativy Common Ground for Computing Education, iniciativy Schwarzman College of Computing na MIT, která spojuje různé oddělení k vývoji a výuce nových kurzů a spouštění nových programů, které kombinují výpočetní techniku s jinými obory.

Přednášky vedou oba lektoři střídavě. Skow, profesor filozofie, přináší pohled svého oboru na zkoumání širších implikací dnešních etických otázek, zatímco Solar-Lezama, který je také zástupcem ředitele a hlavním provozním ředitelem Laboratoře pro informatiku a umělou inteligenci MIT, nabízí perspektivu skrze svůj obor.

Skow a Solar-Lezama navštěvují přednášky jeden druhého a podle toho upravují následné třídy. Zavedení prvku vzájemného učení v reálném čase vedlo k dynamičtějším a pružnějším diskusím ve třídě. Recitace k rozboru tématu týdne se studenty postgraduálního studia filozofie nebo informatiky a živá diskuse kombinují obsah kurzu.

„Někdo zvenčí by si mohl myslet, že to bude kurz, který zajistí, aby tito noví počítačoví programátoři, kteří jsou vysíláni do světa MIT, vždycky dělali to správné,“ říká Skow. Kurz je však záměrně navržen tak, aby studentům poskytoval jiné dovednosti.

Profesor filozofie Caspar Hare, odhodlán vytvořit působivý semestrální kurz, který by dělal něco víc než jen přednášel studentům o správném a nesprávném, přišel s myšlenkou kurzu Etika výpočetní techniky ve své roli zástupce děkana pro Sociální a etické odpovědnosti výpočetní techniky. Hare najal Skowa a Solar-Lezamu jako hlavní lektory, protože věděl, že mohou dělat něco hlubšího.

„Hloubkové přemýšlení o otázkách, které se v tomto kurzu objevují, vyžaduje jak technické, tak filozofické znalosti. Na MIT neexistují jiné kurzy, které by oba tyto aspekty spojovaly,“ říká Skow.

Právě to přilákalo studenta staršího ročníku Aleka Westovera k zápisu. Student matematiky a informatiky vysvětluje: „Mnoho lidí hovoří o tom, jak bude vypadat trajektorie umělé inteligence za pět let. Myslím, že je důležité absolvovat kurz, který mi pomůže o tom více přemýšlet.“

Westover říká, že ho k filozofii přilákl zájem o etiku a touha rozlišovat správné od nesprávného. V matematických kurzech se naučil zapisovat zadání problému a okamžitě zjistit, zda ho úspěšně vyřešil, či nikoli. V kurzu Etika výpočetní techniky se však naučil psát argumenty pro „obtížné filozofické otázky“, které nemusí mít jedinou správnou odpověď.

Například: „Jeden problém, o který bychom se mohli zajímat, je, co se stane, když vytvoříme silné agenty AI, kteří dokáží dělat jakoukoli práci, kterou dokáže člověk?“ ptá se Westover. „Pokud s těmito AI tak intenzivně spolupracujeme, měli bychom jim platit plat? Jak moc bychom měli dbát na to, co chtějí?“

Neexistuje jednoduchá odpověď a Westover předpokládá, že v budoucnu na pracovišti narazí na mnoho dalších dilemat.

„Takže internet ničí svět?“

Semestr začal hlubokým ponorem do rizik AI, neboli myšlenky „zda AI představuje existenční riziko pro lidstvo“, rozbalením svobodné vůle, vědy o tom, jak náš mozek dělá rozhodnutí v nejistotě, a diskuzími o dlouhodobých závazcích a regulaci AI. Druhá, delší jednotka se zaměřila na „internet, World Wide Web a sociální dopad technických rozhodnutí“. Konec semestru se zaměřuje na soukromí, předsudky a svobodu projevu.

Jedno téma kurzu bylo věnováno provokativní otázce: „Takže internet ničí svět?“

Studentka staršího ročníku Caitlin Ogoe studuje obor Výpočetní technika a poznávání (Computation and Cognition). Být v prostředí, kde může zkoumat tyto typy otázek, je přesně důvod, proč se tato sama sebe označující „skeptická technologická“ studentka zapsala do kurzu.

Vyrostla s matkou, která je sluchově postižená, a mladší sestrou s vývojovou poruchou, takže se stala výchozím členem rodiny, jehož úkolem bylo volat poskytovatele technické podpory nebo programovat iPhony. Své dovednosti využila na částečný úvazek k opravám mobilních telefonů, což jí otevřelo cestu k rozvoji hlubokého zájmu o výpočetní techniku a cestu na MIT. Prestižní letní stipendium v prvním ročníku ji však vedlo k zpochybnění etiky vlivu technologie, kterou pomáhala programovat, na spotřebitele.

„Vše, co jsem dělala s technologií, je z pohledu lidí, vzdělávání a osobního spojení,“ říká Ogoe. „To je oblast, kterou miluji. Absolvování humanitních kurzů o veřejných politikách, technologiích a kultuře je jednou z mých velkých vášní, ale toto je první kurz, který zahrnuje také profesora filozofie.“

Následující týden Skow přednáší o roli předsudků v AI a Ogoe, která nastupuje do práce příští rok, ale plánuje si nakonec udělat práva, aby se zaměřila na regulaci souvisejících otázek, zvedá ruku, aby položila otázky nebo sdělila protiargumenty čtyřikrát.

Skow se zabývá zkoumáním COMPAS, kontroverzního softwaru AI, který používá algoritmus k předpovědi pravděpodobnosti, že lidé obvinění ze zločinů budou v budoucnu znovu páchat trestnou činnost. Podle článku ProPublica z roku 2018 byl COMPAS pravděpodobněji označil černé obžalované jako budoucí kriminálníky a poskytoval falešně pozitivní výsledek dvakrát častěji než u bílých obžalovaných.

Třída je věnována určení, zda článek ospravedlňuje závěr, že systém COMPAS je zaujatý a měl by být zrušen. Skow k tomu uvádí dvě různé teorie spravedlnosti:

„Substantivní spravedlnost je myšlenka, že konkrétní výsledek může být spravedlivý nebo nespravedlivý,“ vysvětluje. „Procedurální spravedlnost je otázkou, zda je postup, kterým je výsledek vytvořen, spravedlivý.“ Je pak představena řada protichůdných kritérií spravedlnosti a třída diskutuje, která z nich jsou věrohodná a jaké závěry ospravedlňují ohledně systému COMPAS.

Později jdou oba profesoři nahoru do Solar-Lezamovy kanceláře, aby si popovídali o tom, jak to ten den proběhlo.

„Kdo ví?“ říká Solar-Lezama. „Možná za pět let se všichni budou smát tomu, jak se lidi obávali existenčního rizika AI. Ale jedním z témat, která v tomto kurzu vidím, je učit se přistupovat k těmto debatám mimo mediální diskurs a dostat se k jádru věci – rigorózně přemýšlet o těchto otázkách.“