Michal Pěchouček: Umělá inteligence s námi manipuluje. Nejsme schopni pochopit, proč se neuronové sítě rozhodují, jak se rozhodují

„Dnes je těžké říct, kde se nachází umělá inteligence, protože jen během našeho rozhovoru se posune o kousek dál. Rychlost změny je šílená. Jednak proto, že v oboru pracuje čím dál více kvalifikovaných lidí, jednak proto, že stále sbíráme spoustu zajímavých kvalitních dat. Také se ukazuje, že umělá inteligence má ve společnosti čím dál lepší a smysluplnější místo,“ říká v rozhovoru pro Hospodářské noviny profesor Michal Pěchouček z ČVUT.

Michal Pěchouček (cvut.cz)

V rozhovoru zazní také tyto otázky a odpovědi:

A co přijde jako další krok ve vývoji umělé inteligence a robotiky?

Jsme na prahu spousty zajímavých témat. Lidé si začali uvědomovat, že umělá inteligence bude velkou součástí jejich životů, chtějí ji pochopit, využívat. A také se jí trochu obávají. Ta obava sama o sobě vytváří nová témata. Jedno z nich je vysvětlitelnost umělé inteligence. To je schopnost komplikovaných algoritmů strojového učení a neuronových sítí vysvětlit závěry, k nimž došly. V minulosti, když byla umělá inteligence založena na logických matematických modelech, dalo se dopočítat, proč například nějaký program identifikoval, že je v daném krevním vzorku určitá nemoc. Dnes to nejde. Vzhledem k přesnosti hlubokých neuronových sítí nejsme schopni porozumět tomu, proč se ta síť rozhodla, jak se rozhodla. To je velký problém, přestože to skvěle funguje. Nevysvětlitelná umělá inteligence bude řídit auta, ale v oblastech, jako je medicína nebo právo, se bude vyžadovat odpovědnost za rozhodnutí. Takže dnes vědci přemýšlejí, jak vytvořit technologie, které budou tak přesné, tak schopné, ale budou mít v sobě schopnost vysvětlovat.

Velkým tématem je také bezpečnost...

Ano, být schopen prokázat, že algoritmus nebude nebezpečný, že se nedá zmanipulovat jeho rozhodování. V počítačové bezpečnosti řada algoritmů umělé inteligence útočí, ale také brání. Dnes je počítačová bezpečnost souboj dvou umělých inteligencí. A schopnost prokázat formálně, že můj obranný algoritmus nikdo nikdy nezmanipuluje, aby fungoval proti mým zájmům, je velké téma.

Kdy nás umělá inteligence převýší a začne s námi manipulovat?

To není otázka kdy, ale jak moc. Protože to se už dneska děje. Jsme manipulováni umělou inteligencí, rozhoduje za nás. Považujeme to za přijatelné, protože máme pocit, že nás zvlášť neohrožuje. Je otázka, budeme-li schopni jako lidstvo rozpoznat, že už je manipulace hodně. Zvykli jsme si, že nás umělá inteligence manipuluje v nákupech. Jsme zvyklí číst novinové články prezentované na různých agregačních serverech, kde za nás algoritmus rozhodne, jaký si máme vytvořit názor – to je krásný příklad manipulace. Ukazuje se, že umělá inteligence umí manipulovat voliče, vytvořit voličskou poptávku.


Celý rozhovor naleznete zde