Un nou instrument dezvăluie modul în care inteligența artificială percepe imaginile și explică amestecul cu lopata unui astronaut

Providence, RI [Brown University] – De ce pot sistemele AI să depășească oamenii la anumite sarcini vizuale, cum ar fi recunoașterea facială, dar să facă greșeli fatale în altele – cum ar fi clasificarea fotografiei unui astronaut ca o lopată?

Sistemele de inteligență artificială, precum creierul uman, se bazează pe strategii de procesare și clasificare a imaginilor. Și, la fel ca creierul uman, se știe puține despre natura exactă a acestor procese. Oameni de știință de la Universitatea Brown Institutul Carney pentru Științe ale Creierului face pași mari în înțelegerea ambelor sisteme, publicând o lucrare recentă care ajută la explicarea vederii computerizate într-un mod despre care cercetătorii spun că este mai accesibil, precum și mai util decât modelele anterioare.

„Atât creierul uman, cât și rețelele neuronale profunde care alimentează sistemele AI sunt denumite cutii negre, deoarece nu știm exact ce se întâmplă în interior”, a spus Thomas Seery, profesor de științe cognitive, lingvistice, psihologice și informatice. . Munca pe care o facem la Carney’s Centrul pentru Științe Computaționale ale Creierului Încearcă să înțeleagă și să caracterizeze mecanismele creierului legate de învățare, viziune și tot felul de lucruri, evidențiind asemănările și diferențele cu sistemele AI. „

Siri a spus că rețelele neuronale profunde folosesc algoritmi de învățare pentru a procesa imagini. Ei sunt instruiți pe seturi uriașe de date, cum ar fi ImageNet, care conține peste un milion de imagini colectate de pe web organizate în mii de categorii de obiecte. El a explicat că antrenamentul implică în principal furnizarea de date către sistemul AI.

„Nu spunem sistemelor AI cum să proceseze imaginile – de exemplu, ce informații trebuie extrase din imagini pentru a le putea clasifica”, a spus Siri. „Sistemul AI își dă seama de propria strategie. Apoi, informaticienii evaluează acuratețea a ceea ce fac după ce au fost instruiți – de exemplu, poate că sistemul atinge o precizie de 90% în distingerea între o mie de categorii de imagini.”

Colaborarea lui Serre cu Brown Ph.D. Candidatul Thomas Vail W alți informaticieni Să dezvolte un instrument care să permită utilizatorilor să deschidă capacul cutiei negre al rețelelor neuronale profunde și să facă lumină asupra tipurilor de strategii pe care sistemele AI le folosesc pentru a procesa imagini. Proiectul se numeste CRAFT – pentru conceptul de activare iterativă FacTorizare pentru interpretare – A fost un joint venture cu Institutul de Inteligență Artificială și Naturală din Toulouse, unde se află în prezent Fel. A fost introdus luna aceasta în Conferința IEEE/CVF privind viziunea computerizată și recunoașterea modelelor în Vancouver, Canada.

Serre a împărtășit modul în care CRAFT dezvăluie modul în care inteligența artificială „vede” imaginile și a explicat importanța critică a înțelegerii modului în care un sistem de viziune computerizată diferă de cel al unui om.

Î: Ce arată Project Kraft despre modul în care AI procesează imaginile?

CRAFT oferă interpretarea reprezentărilor vizuale complexe, cu dimensiuni mari ale obiectelor învățate de rețelele neuronale, utilizând instrumente de învățare automată de ultimă generație pentru a le face mai ușor de înțeles pentru oameni. Acest lucru duce la reprezentări ale conceptelor vizuale cheie pe care rețelele neuronale le folosesc pentru a clasifica obiectele. Ca exemplu, să luăm în considerare un tip de pește de apă dulce numit tench. Am construit site-ul web Le permite oamenilor să răsfoiască și să vizualizeze aceste concepte. Folosind site-ul web, se poate vedea că conceptul de tench al sistemului AI include seturi de aripioare de pește, capete, cozi, globi oculari și multe altele.

Aceste concepte dezvăluie, de asemenea, că rețelele profunde captează uneori părtiniri în seturile de date. Unul dintre conceptele asociate cu tenca, de exemplu, este chipul unui om alb, deoarece există multe imagini pe internet cu pescari sportivi ținând în mână un pește care arată ca un tenc. (Cu toate acestea, sistemul poate încă să facă distincția între un om și un pește.) Într-un alt exemplu, conceptul dominant asociat fotbalului în rețelele neuronale este prezența jucătorilor de fotbal pe teren. Acest lucru se datorează probabil faptului că majoritatea imaginilor de pe internet care prezintă mingi de fotbal includ și jucători individuali, mai degrabă decât doar mingea în sine.