Když se zeptáte žáků ve škole či učitelů, kdo používá umělou inteligenci, zjistíte, že všichni. Je to skvělý pomocník, během vteřiny vypracuje referát, napíše článek, sestaví zadání testu, odpoví na každou otázku…
Možná proto, že už patřím ke starší generaci, mám z toho občas obavy. Říkám si, co se bude dít s lidským mozkem, když ho nebudeme muset namáhat a trénovat, obávám se, aby se nenaplnila vize Karla Čapka z divadelní hry R. U. R. Dokážeme poznat, kdy je to ještě dobrý sluha a kdy už zlý pán?
O to větší radost jsem měla, když jsem četla řádky naší žákyně Barči Otavové, která si vybrala téma Dvě tváře AI a vytvořila povídku do soutěže Ministerstva vnitra Svět očima dětí. Hloubku jejích myšlenek i zajímavé zpracování porota ocenila třetím místem, což si určitě zaslouží srdečnou gratulaci.
Když jsme povídku četli při školní oslavě tohoto úspěchu, v sále bylo hrobové ticho. Bylo znát, že text žáky oslovil, dostal se jim pod kůži, přemýšleli o něm. Kéž se najde dostatek podobných varování, aby mladá generace dokázala pevně udržet otěže a umělou inteligenci zachovat pouze v roli oddaného sluhy. Držme dětem pěsti.
Zajímá vás zmiňovaný text? Se souhlasem autorky si ho můžete přečíst níže.
Dvě tváře AI
Sedím v lavici na češtině a nudím se. Venku je úplně hnusně, prší a mně už se strašně moc chce domů, protože tahle hodina mi připadá neskutečně dlouhá. Právě píšeme ten nejvíc otravný a dlouhý zápis o shodě podmětu s přísudkem. Všichni kolem mě jenom koukají do sešitu a snaží se stíhat psát, co nám učitelka diktuje. Ona se pomalu prochází u tabule a zrovna říká další větu.
„CRRRR-PÍÍÍÍSK! CHRRRR!“ Ozve se školní rozhlas.
Je to takový ten nepříjemný a strašně otravný zvuk, ze kterého všechny bolí uši. Okamžitě zvedám hlavu od sešitu a celá třída dělá úplně to samé. Čekáme, že bude paní ředitelka jako vždycky hlásit, že se mění rozvrh nebo že je sběr papíru. Jenže z rozhlasu se neozve paní ředitelka. Ozve se řev našeho učitele informatiky, pana Nováka.
Ten hlas z rozhlasu řve na celou školu, do všech tříd najednou: „Paní ředitelka mně dlouhodobě ubližuje. Neustále mi dělá ze života peklo. Šikanuje mě a už mě to fakt nebaví!!! Jestli nepřestane, půjdu s tím na policii!“ Pak to naposledy divně cvakne a rozhlas ztichne. Jenom koukám před sebe a nemůžu uvěřit vlastním uším. Paní učitelka češtiny úplně ztuhne, upustí křídu na zem a jenom tam stojí s otevřenou pusou. Ve třídě nastane hrobové ticho. S klukama na sebe nevěřícně zíráme a nikdo z nás nechápe, co se právě stalo. Pan Novák? Ten nejvíc hodný učitel na škole, který by neublížil ani mouše a vždycky nám pomáhá? Že by takhle šíleně řval do rozhlasu a nadával paní ředitelce? A ředitelka? Je to sice ředitelka, ale je fajn. To vůbec nedává smysl.
„…a přesně takhle se to tehdy, v téhle škole stalo,“ řekne najednou pan učitel Novák a rozsvítí světla v učebně.
Ten příběh mě tak hrozně vtáhnul, že jsem měl pocit, jako bych v té lavici při psaní zápisku seděl já sám a slyšel to praskání rozhlasu na vlastní uši. Jenže v tu dobu jsme my na tuhle školu ještě vůbec nechodili, byli jsme ještě malí. Pan učitel nám tuhle slavnou školní historku zrovna vypráví v naší dnešní hodině informatiky, abychom pochopili, co všechno umělá inteligence dokáže.
Vysvětluje nám, že ty hrozné věty v rozhlase tehdy vůbec neřekl. Jeden starší kluk z devítky tehdy prostě vzal jeho hlas ze školního videa a pomocí umělé inteligence vytvořil nahrávku, kde se učitel velmi nehezky vyjadřoval o paní ředitelce, aniž by to byla pravda. Hotový zvukový záznam pustil do rozhlasu. Byl to takzvaný deepfake – prostě falešná nahrávka. Pro toho kluka to byla tehdy hrozná sranda a pomsta za špatné známky nejen v informatice. Málem to ale panu učiteli zničilo život. Paní ředitelka byla sice nejdřív strašně naštvaná, ale pan učitel jí pak musel s pomocí počítačových odborníků dokázat, že to vytvořila umělá inteligence.
Koukám na svůj monitor před sebou a hrozně moc o tom přemýšlím. My všichni si pořád jenom hrajeme na mobilech a myslíme si, jak tomu všemu hrozně rozumíme a jak to máme pod kontrolou. Umělou inteligenci bereme jenom jako takovou chytrou kalkulačku na domácí úkoly, co za nás bleskově vyřeší těžký příklad do matiky nebo napíše referát, aby to bylo jednodušší. Jenže teď už vím, že AI není jenom obyčejný pomocník do školy. Uvědomil jsem si, že lidé už v tomhle souboji s technologiemi občas vůbec nestíhají a že pravidla hry začíná určovat počítač.
Zazvoní na konec hodiny. Jdeme na chodbu. Celá třída je stále v šoku, nikdo moc nemluví a všichni o tom, co jsme právě slyšeli, přemýšlíme. Pan učitel na konci říkal, že AI je jako oheň – dobrý sluha, ale zlý pán. A má pravdu. Ve světě, kde se nedá věřit ani vlastním uším, si musíme dávat větší pozor, co je takzvaně real a co je fake. To je podle mě docela děsivé.
