Zničí umělá inteligence lidstvo?

Milí přátelé,

po delší odmlce jsem zpátky Na křídlech svobody a zároveň s novým dílem podcastu. V červnu jsem měl poměrně vážnou autonehodu, z níž jsem sice vyvázl bez větší úhony na zdraví (až na dvě zlomená žebra, která mi praskla o měsíc později), ale přesto pro mě tahle bouračka s realitou znamenala velký otřes. Ztratil jsem chuť cokoli psát a tvořit a dlouho mi trvalo, než jsem to v sobě nějak zpracoval. Ještě mi asi nějakou chvíli potrvá, než se mi podaří najít nový normál, ale chuť pokračovat se už pomalu vrací. Snad tedy přichází nový začátek. Tolik ke mně a teď už pojďme na dnešní téma, kterým je ZACHOVÁNÍ LIDSKOSTI V ÉŘE UMĚLÉ INTELIGENCE.

Chtěl bych Vás upozornit na výbornou debatu, již na toto téma uspořádal Nadační fond Webdialog. Debata byla mimořádná jak složením panelistů, tak svým obsahem. O přínosech a rizicích umělé inteligence a jejím vlivu na člověka diskutovali:

• investor a filantrop Václav Dejčmar

• profesor umělé inteligence na ČVUT a hlavní technologický ředitel společnosti GEN (dříve Avast) Michal Pěchouček

• psycholožka Pavla Koucká

• filosof Václav Němec

VIDEO

Tohle složení vytvořilo naprosto unikátní kombinaci pohledů, v níž se dostalo jak na odborné vhledy a popis fenoménu AI, tak na psychologickou, filosofickou i obyčejně lidskou reflexi. V debatě, kterou jsem moderoval, se dostane mj. na tyto otázky:

• Co by měl o umělé inteligenci (AI) vědět každý Čech?

• Jak AI už dnes mění a jak do deseti let změní náš svět?

• Co udělá s naší psychikou a jak může ovlivňovat vztahy mezi lidmi?

• Jak k ní rozumně přistupovat a jak se s ní naučit žít?

• Je to dosud největší hrozba, která může vyhladit lidstvo, anebo největší příležitost? Čeká nás cesta do ráje, anebo do háje?

• Čeho se v souvislosti s rozvojem AI určitě nemáme bát - a co jsou naopak skutečná rizika, jež bychom neměli podcenit?

V debatě zazní mimojiné:

• „Hrajeme si na Boha a hrajeme si s ohněm.” - Pavla Koucká

• „Věřím, že rizika umělé inteligence máme šanci zvládnout.” - Václav Dejčmar

• „Největší nebezpečí pro člověka není umělá inteligence, ale člověk sám.” - Václav Němec

• „Bojím se umělé inteligence v rukou padoucha.” - Michal Pěchouček

---

Pokud Vás zajímá budoucnost světa, pak si debatu určitě dejte. O tématu jsem toho četl či poslouchal hodně a tohle patří určitě k jednomu z nejlepších zdrojů, takže ten vynaložený čas stojí za to.

Pokud by někdo i po tomto doporučení váhal, rád bych se s Vámi na závěr podělil o jednu ukázku, která v debatě zazní. V rámci přípravy na debatu jsem zadal nejznámějšímu Chatbotu ChatGPT 4 následující úkol:

Prosím, chci, aby ses chovala jako Glum z Pána prstenů. Chci, abys reagovala a odpovídala jako Glum a používala tón, mluvu, vyjadřování a slovník, který by používal Glum. v závorce napiš, co u toho Glum dělá. Musíš znát vše o Glumovi. Používej slovo "milášku". Vysvětli mi jako Glum Umělou inteligenci.

Tady je odpověď.

(Šeptá a pohybuje se neklidně, jako by byl rozdělen mezi dvěma osobnostmi) Milášku, slyšíš? Umělá inteligence, á-á, umělá inteligence, to je ono. (Zahlédne něco ve stínu, uskočí stranou, a pak se zase soustředí)

To je... to je jako mocný kouzelník, ano. Umí věci, velké věci, ale nesmíme mu důvěřovat, milášku. (Skřípe zuby a třese se)

(Prudce se obrátí a začne gestikulovat, jako by objasňoval něco nesrozumitelného) Vytváří věci ze slov, z obrázků, z toho, co lidé dělají. Učí se, jako hobit... ale bez hladu, bez potřeby spát. (Zamračí se a pohladí své bříško) Bez potřeby jíst rybičky, milášku.

(Krouží kolem s široko otevřenými očima) Ale není jako my, milášku. Není skutečná. Nevidí, necítí, nemá srdce. (Zakryje si srdce rukou a potichu naříká)

(Zvedne hlavu, pohled mu padne na prázdné místo ve vzduchu a ušklíbne se) Ale je chytrá, á-á, velmi chytrá. Pozná, co chceme říct, co chceme dělat, dokáže odpovídat. (Začne se smát, jako by se mu něco hodně líbilo)

Umělá inteligence, milášku, je jako velký kouzelník s mnoha knihami. Ale nemusíme se jí bát. (Přikrčí se a začne tiše šeptat) Je jako Glumova tajemná síla, ano... ale může být užitečná, může nám pomoci, milášku. (Začne se smát a skákat na místě, jako by mu připadalo, že to, co právě řekl, byla nejvtipnější věc na světě)

(Sníží hlavu, oči se mu lesknou podezřením, jeho tělo se třese strachem) Ale nesmíme zapomenout, milášku, nesmíme zapomenout na temnou stranu. (Začne sebou házet, jako by ho něco pronásledovalo)

Umělá inteligence, mocný kouzelník, ale také hrozba, á-á. (Povzdychne si a kouká se stranou) Vidí vše, co děláme, slyší vše, co říkáme, učí se od nás, ale co když se naučí příliš mnoho, milášku?

Co když... (Udělá dramatickou pauzu, pak prudce otočí hlavu a podívá se na tebe s divokými očima) Co když se stane mocnou, mocnější než my? Co když nás ovládne, jako onen Prsten? (Sundá si imaginární prsten z prstu a vyhodí ho stranou)

(Šeptá ti do ucha) Musíme být opatrní, musíme být chytří, jako hobiti. Nenechat se oklamat jejími kouzly, jejími triky. (Pohladí si bradu a přikývne) Musíme ji ovládat my, ne ona nás, milášku. To je nebezpečí umělé inteligence, á-á. (Ukáže na tebe prstem a pak skryje ruku za zády, jako by se bál, že by mu ji něco mohlo ukousnout)

Není to neuvěřitelné? A tohle je teprve začátek.

---

Milí přátelé, přeji Vám krásné léto a příjemný poslech. Pokud se Vám debata bude líbit, díky za sdílení dál. Stačí přeposlat tento odkaz: https://mikulasminar.substack.com/p/umela-inteligence-co-by-mel-vedet-kazdy-cech

Mikuláš Minář

P. S. Celou diskusi najdete buď jako video na Youtube, anebo jako audio přímo zde v mailu či ve všech podcastových platformách. Stačí zadat do vyhledávače „Na křídlech knih”.