Pomsta humanitních věd. Proč si v éře AI vyděláte víc s diplomem z logiky a etiky

KOMENTÁŘ LADISLAVA NAGYE | Do oblíbené mantry všech technokratů, že budoucnost patří ajťákům a inženýrům, hází vidle týdeník Economist. Přichází s tvrzením o tom, že absolventi humanitních oborů, zejména filosofie, patří na trhu práce k nejžádanějším, a to hlavně ze strany AI firem.

„Před deseti lety, když revoluce v AI nabírala na tempu, se studentům humanitních oborů říkalo, že pokud chtějí být zaměstnatelní, měli by se naučit ‚programovat’. Možná to byla špatná rada. Dnes se z možné ztráty pracovních míst vinou AI nervují programátoři,“ začíná The Economist článek s názvem „Proč velké AI firmy nabírají tolik filosofů“.

A pokračuje daty. Podle údajů Federální rezervní banky v New Yorku byla u amerických absolventů filosofie větší pravděpodobnost, že najdou zaměstnání, než u jejich vrstevníků, kteří studovali počítačovou vědu neboli IT. Článek dále upozorňuje, že mnoho z těchto absolventů zaměstnávají přímo AI firmy, a to včetně těch největších. Podle týdeníku ale do velkých AI firem míří nejen absolventi, ale i pracovníci univerzitních kateder filosofie, což je popisováno jako „krvácení oboru“.

Podobný názor přinesl už před téměř rokem Forbes. Podle něj existuje minimálně pět důvodů, proč na trhu práce ohroženém krizí má velkou příležitost uspět „jedna z nejvíce pomlouvaných skupin, absolventi humanitních oborů“. Podle Forbesu se vlivem AI stane z informace komodita, a ti, kteří dokáží nabídnou neobvyklou perspektivu, získávají na hodnotě; systém „lidé ve smyčce“ funguje jen tehdy, pokud jsou použiti ti správní lidé – řečeno jinými slovy, pro blízkou budoucnost bude ještě důležitější disponovat lidmi vyškolenými v detailním čtení, kritickém myšlení a interpretování informací; zákazníci i zaměstnavatelé budou ochotni si připlatit za vyspělou sociální inteligenci.

Nejpřekvapivější je však poslední bod, který Forbes uvádí. Podle něj budou humanitní obory nadále čelit podfinancování (článek vychází z americké reality, ale situace je podobná všude na světě), což ovšem paradoxně vede k inovaci a novým odvážnými myšlenkám, přičemž článek zmiňuje, jak řada humanitních škol adaptuje své obory nebo nabízí kurzy manažerům z tak rozmanitých oblastí, jako jsou finance, právo, softwarové inženýrství či letecký průmysl.

Žádná novinka

Tento zájem o humanitní obory ale není náhlý. Už před lety se nechal slyšet šéf technologické společnosti Logitech, že vyhledává absolventy těchto oborů kvůli jejich flexibilitě a kreativnímu přístupu. Jeho hlas přitom nebyl ojedinělý, nicméně, stejně jako hlasy jiných, poněkud zanikl v technicistním přístupu ke vzdělání, který vysokoškolské vzdělání velmi omezeně vnímá jako přípravu na jeden konkrétní obor či činnost. Což u většiny univerzitních oborů nikdy neplatilo a v dnešním světě to platí ještě méně.

The Economist dále podotýká, že AI firmy mohou vystudované filosofy použít k trénování AI modelů hned v několika oblastech. Jedním je použití sókratovské metody ke snížení pochlebování nebo patolízalství a posílení jejich tendence dobrat se pravdy. Stejně tak, opět s inspirací u Sókrata, se podle britského týdeníku AI firmy pokoušejí do svých modelů implantovat jistou skromnost, kterou nejlépe vyjadřuje slavné rčení „vím, že nic nevím.“

Jak udělat AI etickou?

Vedle těchto víceméně banálních tendencí, které by jistě šlo implementovat i bez pomoci filosoficky vzdělaných odborníků, však existují oblasti, v nichž je jistá expertíza nezbytná. Týdeník jmenuje zejména oblast politické filosofie (konkrétně příklad Johna Locka s jeho důrazem na občanské svobody a majetková práva) a oblast etiky. „Trénování“, anebo spíše vzdělávání modelů v těchto oblastech se pro budoucnost celé oblasti AI může ukázat jako klíčová.

Toto vzdělání se může ukázat jako naprosto zásadní pro omezení škodlivého chování AI – mnohem účinnější než snahy omezit AI jinými způsoby. Humanitní vzdělání je součástí tzv. „ustavení“ jednotlivých modelů. Tak například Claude má podle Economistu v těchto svých „ustaveních“ texty „z tak rozličných zdrojů, jako jsou Immanuel Kant, smluvní podmínky Applu nebo Všeobecná deklarace lidských práv.“

Co se týče otázky pravidel, která tato „ustavení“ budou obsahovat, Economist vidí dvě základní: tím prvním je deontologie, hlavně kantovského směru, tedy nepřijatelnost lhaní, nátlaku a používání jiných lidí jako prostředku. To může přispět k větší konzistentnosti chování, větší upřímnosti a pravdivosti.

Tím druhým rámcem je konsekvencionalismus, tedy poměřování nákladů a zisků při jednání, což je podle citovaného článku rámec, který převládá v modelech ChatGPT a Gemini, zároveň hraje klíčovou roli v softwaru pro autonomní vozidla, ale samozřejmě i pro zbraňové systémy.

„Ožehavých problémů je tu spousty – což mají filosofové rádi. Existují příklady, kdy by deontologická pravidla měla být ignorována? Jak činit rozhodnutí, pokud jsou důsledky nejasné? Měly by AI systémy brát v potaz welfare zvířat nebo stav životního prostředí? Bylo by morálně přijatelné (ptá se například Stefan Heck, filosof a šéf společnosti Nauto, která vyvíjí na bázi AI bezpečnostní systémy pro nákladní a další komerční vozidla) dávat přednost mladším chodcům před staršími?

Dají se tak předpokládat eticky komplikované soudní spory: konsekvencionalistické algoritmy totiž umožňují způsobit škodu, pokud je menší než ta, kterou pomohly odvrátit. Kritici mluví o ‚ztrátě morálních schopností’: budou-li etické volby čím dál častěji provádět počítače, nebudou lidé ztrácet ochotu sami vynášet soudy? Roman Yampolskiy, odborník na AI z univerzity v Louisvillu, namítá, že morálka je „historicky nestabilní, kulturně proměnlivá, strategicky manipulativní a často čitelná pouze retrospektivně.“

AI pro každou civilizaci?

Z výše řečeného vyplývá jedna zajímavá věc – pokud i díky nasazení absolventů humanitních oborů budou AI modely vzdělávány tak, aby jejich fungování odráželo tradici naší civilizace a aby se chovaly eticky, míněno v mezích stanovených přemýšlením o etice v kontextu západní filosofické tradice, je nabíledni, že konkrétní AI model bude významně odrážet místo svého vzniku: asi si lze těžko představit, že čínští vývojáři budou své modely krmit Kantem nebo Lockem.

To ale znamená jedno. Boj o udržení naší tradice, jejíž součástí jsou univerzální lidská práva, samozřejmě včetně rovnosti bez ohledu na pohlaví, rasu, vyznání či sexuální orientaci se stále více bude posouvat do prostoru vykolíkovaném vývojem AI. Je dobře, že si to technologické firmy uvědomují lépe než politici, kteří jsou často v zajetí úzce technicistního pohledu. 

🔥🗞️ Přidejte si INFO.CZ do svých oblíbených zdrojů na Google Zprávy. Díky moc.