Řekněte svému kotěti, co si myslíte uvnitř - efekt černé skříňky

Skutečnost, že pokročilé algoritmy umělé inteligence jsou jako černá skříňka (1), která zahodí výsledek, aniž by odhalila, jak k němu došlo, některé znepokojuje a jiné rozčiluje.

V roce 2015 byl výzkumný tým z nemocnice Mount Sinai v New Yorku požádán, aby použil tuto metodu k analýze rozsáhlé databáze místních pacientů (2). Tato obrovská sbírka obsahuje oceán informací o pacientech, výsledky testů, lékařské předpisy a další.

Vědci pojmenovali analytický program vyvinutý během práce. Školilo se na datech od zhruba 700 XNUMX lidí. člověka, a když byl testován v nových registrech, ukázal se jako extrémně účinný při předpovídání onemocnění. Bez pomoci lidských odborníků objevil v nemocničních záznamech vzory, které naznačují, který pacient je na cestě k onemocnění, jako je rakovina jater. Podle odborníků byla prognostická a diagnostická účinnost systému mnohem vyšší než u jiných známých metod.

2. Systém lékařské umělé inteligence založený na databázích pacientů

Vědci si přitom všimli, že to funguje záhadným způsobem. Ukázalo se například, že je ideální pro rozpoznávání duševních poruchjako je schizofrenie, která je pro lékaře extrémně náročná. To bylo překvapivé, zejména proto, že nikdo neměl ponětí, jak mohl systém AI tak dobře vidět duševní onemocnění pouze na základě lékařských záznamů pacienta. Ano, specialisté byli s pomocí tak výkonného strojního diagnostika velmi spokojeni, ale mnohem spokojenější by byli, kdyby pochopili, jak AI dochází ke svým závěrům.

Vrstvy umělých neuronů

Od samého začátku, tedy od chvíle, kdy se pojem umělé inteligence stal známým, existovaly dva pohledy na AI. První navrhl, že by bylo nejrozumnější postavit stroje, které uvažují v souladu se známými principy a lidskou logikou, aby jejich vnitřní fungování bylo transparentní pro každého. Jiní věřili, že inteligence se objeví snadněji, pokud se stroje naučí pozorováním a opakovaným experimentováním.

To druhé znamená obrácení typického počítačového programování. Místo toho, aby programátor psal příkazy k vyřešení problému, program generuje vlastním algoritmem na základě vzorků dat a požadovaného výsledku. Metody strojového učení, které se později vyvinuly v nejvýkonnější systémy umělé inteligence, které jsou dnes známy, se ve skutečnosti vydaly cestou stroj sám programuje.

Tento přístup zůstal na okraji výzkumu systémů AI v 60. a 70. letech. Teprve na začátku předchozího desetiletí, po několika průkopnických změnách a vylepšeních, "Hluboké" neuronové sítě začal prokazovat radikální zlepšení schopností automatizovaného vnímání. 

Hluboké strojové učení obdařilo počítače mimořádnými schopnostmi, jako je schopnost rozpoznávat mluvená slova téměř stejně přesně jako člověk. To je příliš složitá dovednost na to, aby se dala naprogramovat předem. Stroj musí být schopen vytvořit svůj vlastní "program". školení na velkých souborech dat.

Hluboké učení také změnilo rozpoznávání počítačového obrazu a výrazně zlepšilo kvalitu strojového překladu. Dnes se používá k přijímání nejrůznějších klíčových rozhodnutí v medicíně, financích, výrobě a dalších.

Nicméně s tím vším nemůžete se jen podívat do hluboké neuronové sítě, abyste viděli, jak funguje „uvnitř“. Procesy síťového uvažování jsou zasazeny do chování tisíců simulovaných neuronů, organizovaných do desítek nebo dokonce stovek složitě propojených vrstev..

Každý z neuronů v první vrstvě přijímá vstup, jako je intenzita pixelu v obrázku, a poté provádí výpočty před výstupem výstupu. Jsou přenášeny ve složité síti do neuronů další vrstvy – a tak dále, až do konečného výstupního signálu. Kromě toho existuje proces známý jako úprava výpočtů prováděných jednotlivými neurony tak, aby tréninková síť produkovala požadovaný výsledek.

V často citovaném příkladu souvisejícím s rozpoznáváním obrazu psa nižší úrovně AI analyzují jednoduché vlastnosti, jako je tvar nebo barva. Ty vyšší se zabývají složitějšími záležitostmi jako je srst nebo oči. Pouze horní vrstva to vše spojuje a identifikuje celou sadu informací jako psa.

Stejný přístup lze aplikovat na jiné typy vstupů, které pohání stroj, aby se sám učil: zvuky, které tvoří slova v řeči, písmena a slova, která tvoří věty v psaném textu, nebo například volant. pohyby nutné k řízení vozidla.

Autu nic nechybí.

Je učiněn pokus vysvětlit, co přesně se v takových systémech děje. V roce 2015 výzkumníci společnosti Google upravili algoritmus pro rozpoznávání obrázků hlubokého učení tak, že místo toho, aby viděli objekty na fotografiích, generovali nebo upravovali je. Spuštěním algoritmu pozpátku chtěli objevit vlastnosti, které program používá k rozpoznání, řekněme, ptáka nebo budovy.

Tyto experimenty, veřejně známé jako název, přinesly úžasná zobrazení (3) groteskních, bizarních zvířat, krajiny a postav. Odhalením některých tajemství strojového vnímání, jako je skutečnost, že určité vzorce se opakovaně vracejí a opakují, také ukázali, jak se hluboké strojové učení liší od lidského vnímání – například v tom smyslu, že rozšiřuje a duplikuje artefakty, které ignorujeme. v našem procesu vnímání bez přemýšlení . .

3. Obrázek vytvořený v projektu

Mimochodem, na druhé straně tyto experimenty odhalily záhadu našich vlastních kognitivních mechanismů. Možná právě v našem vnímání existují různé nepochopitelné komponenty, které nás nutí okamžitě něco pochopit a ignorovat, zatímco stroj trpělivě opakuje své iterace na „nedůležitých“ předmětech.

Další testy a studie byly provedeny ve snaze „porozumět“ stroji. Jason Yosinski vytvořil nástroj, který funguje jako sonda zapíchnutá v mozku, zaměří se na jakýkoli umělý neuron a hledá obraz, který jej aktivuje nejsilněji. V posledním experimentu se jako výsledek „nakouknutí“ sítě objevily abstraktní obrázky, což učinilo procesy probíhající v systému ještě tajemnějšími.

Pro mnoho vědců je však taková studie nedorozuměním, protože podle jejich názoru pro pochopení systému, pro rozpoznání zákonitostí a mechanismů vyššího řádu přijímání složitých rozhodnutí, všechny výpočetní interakce uvnitř hluboké neuronové sítě. Je to obří bludiště matematických funkcí a proměnných. V tuto chvíli je to pro nás nepochopitelné.

Počítač se nespustí? Proč?

Proč je důležité rozumět rozhodovacím mechanismům pokročilých systémů umělé inteligence? K určení toho, kteří vězni mohou být podmínečně propuštěni, komu lze poskytnout půjčku a kdo může získat práci, se již používají matematické modely. Zájemci by rádi věděli, proč bylo přijato toto a ne jiné rozhodnutí, jaké jsou jeho důvody a mechanismus.

přiznal v dubnu 2017 v MIT Technology Review. Tommy Yaakkola, profesor MIT pracující na aplikacích pro strojové učení. -.

Existuje dokonce právní a politický postoj, že schopnost zkoumat a porozumět rozhodovacímu mechanismu systémů umělé inteligence je základním lidským právem.

Od roku 2018 EU pracuje na tom, aby společnosti vyžadovaly, aby svým zákazníkům vysvětlovaly rozhodnutí učiněná automatizovanými systémy. Ukazuje se, že to někdy není možné ani u systémů, které se zdají být relativně jednoduché, jako jsou aplikace a webové stránky, které používají hlubokou vědu k zobrazování reklam nebo doporučování skladeb.

Počítače, které tyto služby provozují, se samy programují a dělají to způsoby, kterým nerozumíme... Ani inženýři, kteří tyto aplikace vytvářejí, nedokážou plně vysvětlit, jak to funguje.