Vova Krasen
0 
2587
173
Wybitny badacz uczenia maszynowego i sztucznej inteligencji twierdzi, że jego dziedzina wyszła poza granice nauki i inżynierii i skierowała się ku „alchemii”. I oferuje drogę powrotną.
Ali Rahimi, który pracuje nad sztuczną inteligencją dla Google, powiedział, że uważa, że jego dziedzina poczyniła niesamowite postępy, ale zasugerował, że jest coś zgniłego w sposobie jej rozwoju. W uczeniu maszynowym komputer „uczy się” metodą prób i błędów. Problem w przemówieniu przedstawionym na A.I. jest taka, że badacze pracujący w terenie - kiedy komputer „uczy się” metodą prób i błędów - nie tylko nie rozumieją dokładnie, w jaki sposób uczą się ich algorytmy, ale także nie rozumieją technik, których używają do zbudowania tych algorytmów, zasugerował Rahimi w przemówieniu wygłoszonym na konferencji poświęconej sztucznej inteligencji, którą niedawno opublikował Matthew Hutson dla magazynu Science.
W 2017 roku Rahimi zaalarmował mistyczną stronę sztucznej inteligencji: „Osiągamy oszałamiająco imponujące wyniki” - napisał na blogu. „Samojeżdżące samochody wydają się być tuż za rogiem; sztuczna inteligencja oznacza twarze na zdjęciach, transkrybuje wiadomości głosowe, tłumaczy dokumenty i dostarcza nam reklamy. Firmy warte miliardy dolarów opierają się na uczeniu maszynowym. Pod wieloma względami jesteśmy w lepszej sytuacji niż 10 lat temu. W pewnym sensie jesteśmy w gorszej sytuacji ”. [Super-inteligentne maszyny: 7 robotów futures]
Rahimi, jak donosił Hutson, wykazał, że wiele algorytmów uczenia maszynowego zawiera przypisane funkcje, które są w zasadzie bezużyteczne, i że wiele algorytmów działa lepiej, gdy te funkcje zostaną usunięte. Inne algorytmy są zasadniczo zepsute i działają tylko z powodu grubej skorupy poprawek ad-hoc ułożonych na wierzchu oryginalnego programu.
Jest to, przynajmniej częściowo, rezultat dziedziny, która przyzwyczaiła się do pewnego rodzaju metodologii prób i błędów, argumentował Rahimi na tym blogu. W ramach tego procesu badacze w ogóle nie rozumieją, dlaczego jedna próba rozwiązania problemu się powiodła, a inna nie. Ludzie wdrażają i udostępniają techniki, których nie rozumieją zdalnie.
Osobom, które podążają za sztuczną inteligencją, można przypomnieć o problemie „czarnej skrzynki”, zauważył Hutson w swoim artykule - tendencji programów AI do rozwiązywania problemów w sposób, którego ich ludzcy twórcy nie rozumieją. Ale obecny problem jest inny: naukowcy nie tylko nie rozumieją technik rozwiązywania problemów swoich programów sztucznej inteligencji, powiedział Rahimi, ale także nie rozumieją technik, których używali do tworzenia tych programów. Innymi słowy, dziedzina ta bardziej przypomina alchemię niż nowoczesny system badań - powiedział.
„Jest miejsce na alchemię. Alchemia zadziałała” - napisał Rahimi.
„Alchemicy wynaleźli metalurgię, sposoby wytwarzania leków, techniki barwienia tekstyliów i nasze nowoczesne procesy wytwarzania szkła. Z drugiej strony alchemicy wierzyli również, że mogą przemieniać metale nieszlachetne w złoto i że pijawki są świetnym sposobem leczenia chorób . ”
W swoim niedawnym wystąpieniu (i towarzyszącym mu artykule) na Międzynarodowej Konferencji na temat Reprezentacji Uczenia się w Vancouver w Kanadzie, Rahimi i kilku współpracowników zaproponowali szereg metod i protokołów, które mogłyby przenieść uczenie maszynowe poza świat alchemii. Wśród nich: ocena nowych algorytmów pod kątem ich części składowych, usuwanie ich części pojedynczo i sprawdzanie, czy ogólne programy nadal działają, oraz wykonywanie podstawowych „testów poczytalności” na wynikach generowanych przez algorytmy.
To wszystko dlatego, że sztuczna inteligencja, argumentował Rahimi na swoim blogu z 2017 roku, stała się zbyt ważna w społeczeństwie, aby mogła być rozwijana w tak niedbały sposób..
„Jeśli tworzysz usługi udostępniania zdjęć, alchemia jest w porządku” - napisał. „Ale teraz budujemy systemy, które rządzą opieką zdrowotną i naszym udziałem w debacie obywatelskiej. Chciałbym żyć w świecie, którego systemy są zbudowane na rygorystycznej, rzetelnej i weryfikowalnej wiedzy, a nie na alchemii”.