X

Zapisz się na darmowy newsletter SOCIALPRESS

Dlaczego warto się zapisać
Nasz newsletter subskrybuje już 15 000 osób!

Poznajcie Normana – pierwszą psychopatyczną sztuczną inteligencję

Zespół naukowców z MIT stworzył Normana - pierwszą na świecie AI psychopatę, którą uczono na podstawie materiałów z Reddita. Inspiracją do jej stworzenia była chęć sprawdzenie, jak niewłaściwe dane mogą wpływać na zachowanie sztucznej inteligencji.

Poznajcie Normana – pierwszą psychopatyczną sztuczną inteligencjęźródło: norman-ai.mit.edu

Sztuczna inteligencja jeszcze jakiś czas temu była dla nas tematem, który kojarzył się z robotami i filmami fantasy. Dziś, bardziej lub mniej świadomie, mamy z nią styczność każdego dnia i możemy obserwować dynamiczny rozwój tej dziedziny. Dowodem na to, jak różnorodne może być jej zastosowanie jest Norman – psychopatyczna sztuczna inteligencja, która wszędzie widzi śmierć.

Wykorzystanie „najciemniejszych zakątków” Reddita

Zespół Massachusetts Institute of Technology, w którego skład wchodzi Pinar Yanardag, Manuel Cebrian oraz Iyad Rahwan, opracował w kwietniu algorytm mający na celu pokazanie, jak głębokie znaczenie dla AI mają dane będące stronnicze.

Nazwano go Norman, czyli tak, jak postać z popularnego psychologicznego horroru – „Psycho” Alfreda Hitchcocka z 1960 roku. Przy użyciu grafik i filmów dotyczących śmierci, które znaleziono w „najciemniejszych zakątkach Reddita” uczono aglorytm. Następnie sprawdzono jego reakcję na widoczne plamy w teście psychologicznym Rorschacha. Wówczas jego odpowiedzi porównano z reakcją innego algorytmu, który był uczony w sposób standardowy i widział kwiaty, stado ptaków siedzące na gałęzi, parę ludzi, lecący samolot, rękawicę baseballową, osobę trzymającą parasol czy ślubny tort. Norman zaś w tych samych obrazach upatrywał różnych mężczyzn: postrzelonego, porażonego prądem, skaczącego z okna, postrzelonego z samochodu czy karabinu maszynowego, śmiertelnie postrzelonego przy żonie czy zabitego przez pędzący samochód.

źródło: norman-ai.mit.edu

źródło: norman-ai.mit.edu

Eksperymenty z AI

Projekt ten miał na celu pokazanie, jakie konsekwencje może mieć złe wykorzystanie danych do uczenie AI. Ekspozycja treści związanych z ciemnymi zakątkami internetu sprawiła, że nieodpowiednie wykorzystanie możliwość AI może sprawić, iż ziszczą się pesymistycze wizje naukowców. Podobna sytuacja miała miejsce dwa lata temu, gdy Microsoft uruchomił Taya – bota, który sprowokowany przez użytkowników Twittera został rasistą i dzielił się niewłaściwymi treściami.

Jak podaje CNN, to również nie pierwszy tego typu eksperyment przeprowadzany przez MIT. W 2016 roku ci sami badacze, którzy stworzyli Normana uruchomili „Nightmare Machine”, która wykorzystywała deep learning do przekształcania twarzy lub miejsc na obrazach niczym te z horrorów. Celem było sprawdzenie, czy maszyny mogą uczyć się od ludzi straszenia ich.

Rok później sprawdzono, jak sztuczna inteligencja uczy się pisać upiorne historie na podstawie przeczytanych horrorów. Shelley napisała ponad 200 takich treści. W tymże roku sprawdzano także dane w kontekście empatii. Narzędzie AI nazwane „Deep Empathy” miało pomóc w odnoszeniu się do ofiar katastrof. Zastosowano wówczas technologię, aby wizualizować, jak wyglądałoby to gdyby ta sama katastrofa zdarzyła się w naszym mieście.

Sztuczna inteligencja = niebezpieczeństwo?

Przed negatywni stronami AI ostrzegał nieżyjący już Stephen Hawking. Twierdził on, że może ona zastąpić ludzi i być najgorszym wydarzeniem historii cywilizacji, jeśli nie nauczymy się tego, jak unikać zagrożeń. Elon Musk powiedział zaś, że sztuczna inteligencja jest „potencjalnie bardziej niebezpieczna niż bomby atomowe”. 

Wspomniane przykłady eksperymentów oraz Norman są kolejnymi działaniami, które pokazują, jakie znaczenie może mieć wykorzystanie nieodpowiednich danych. Użytkownicy, którzy chcieliby pomóc Normanowi w „naprawieniu się” mogą sami wykonać test Rorschacha i podzielić się z AI swoimi spostrzeżeniami dotyczącymi widocznych plam.


Newsletter

Bądź na bieżąco!
Zapisz się na bezpłatny newsletter.

free newsletter templates powered by FreshMail