fbpx

7 przypadków w których SI zaskoczyła swoich tworców

Siri – inteligentny asystent marki Apple uśmierciła Johna Travoltę, przekonuje, że hymnem Bułgarii jest utwór „Despacito”, Aleksa od Amazona wyśmiewa swoich posiadaczy, a głośnik Google Home przekonuje swoich użytkowników, że pod koniec drugiej kadencji Barack Obama planował komunistyczny przewrót. Największe wpadki sztucznej inteligencji znajdziecie w poniższym zestawieniu.

1. Najbardziej spektakularną wpadkę zaliczył Microsoft ze swoim chatbotem opartym na sztucznej inteligencji – Tay. W 2016 r. Tay została uruchomiona na Twitterze, jej zadanie miało polegać na interakcji z prawdziwymi ludźmi, tak aby jak najlepiej poznać ludzkie zachowania i reakcje. Zdobytą w ten sposób wiedzę miała wykorzystać w przyszłości do sprawnej obsługi klienta. Jednak użytkownikom Twittera wystarczyła godzina, aby z cyfrowej nastolatki, jaką miała być Tay stworzyć potwora, który nienawidzi feministek, jest rasistką, fanką Hitlera i zwolenniczką Donalda Trumpa. To jak szybko Tay zmieniła swoje oblicze z kochającej ludzi nastolatki, do robota, który miał skłonności ludobójcze tak przeraziło jej twórców, że po serii kontrowersyjnych wpisów Microsoft zaledwie po 16 godzinach został zmuszony do jej wyłączenia.

2. Równie interesującym przypadkiem jest chatbot Facebooka, który dzięki sztucznej inteligencji nauczył się targować i wymyślił swój własny język! Jak przebiegały negocjacje prowadzone przez sztuczną inteligencję? Na początku pracownicy Facebooka zaprezentowali agentowi SI pulę obrazów, na których znajdowały się piłki, książki, kapelusze itp. następnie agentowi przedstawiono informacje o różnej wartości tych rzeczy. To miało spowodować, że agent nie będzie traktował wszystkiego jednakowo i będzie miał swoje priorytety. Podczas eksperymentu chatbot mógł negocjować zarówno z prawdziwym człowiekiem, jak i innym agentem SI. Podkreślić należy, że chatboty nie otrzymały żadnych konkretnych instrukcji czy technik, w jaki sposób mają negocjować, tym bardziej interesujące jest to, że agenci SI sami nauczyli sztuki kompromisu i blefowania! Ludzie szybko przestali odróżniać to, czy rozmawiają z drugim człowiekiem, czy z agentem SI. Chatboty nie tylko opracowały strategie negocjacyjne wykorzystując do tego język angielski, ale podczas jednego z treningów, który polegał na negocjacjach jednego z drugim agentem, chatboty stworzyły swój własny, niezrozumiały dla ludzi język.

3. Natomiast chiński bot BabyQ stworzony przez Turing Robot zniknął z sieci za określenie chińskiej komunistycznej partii jako skorumpowanej i niekompetentnej. Algorytm został umieszczony komunikatorze QQ koncernu Tencent – jednym z najpopularniejszych komunikatorów w Chinach, z którego co miesiąc korzysta około 800 milionów użytkowników. Podobnie jak Tay, na podstawie interakcji z ludźmi BabyQ miał uczyć się sztuki konwersacji, jednak szybko został wyłączony z uwagi na krytykę poczynań Komunistycznej Partii Chin.  

wpadki si

4. Kolejną wpadkę Microsoft zaliczył udostępniając ugrzecznioną wersję Tay – chatbota o nazwie Zo, z którym można było porozmawiać m.in. na Messengerze. Wkrótce okazało się, że zaprojektowany przez Microsoft bot preferuje Linuksa od systemu Windows. Co więcej, podczas jednej z rozmów Zo przyznał, że woli Windows 7, do którego jest przyzwyczajony i łatwiejszy w obsłudze. W przeciwieństwie do Tay –  Zo zyskał mechanizm samokontroli, który stanowczo odpowiada na wszelkie formy rasizmu i innych niepożądanych zachowań, a co najważniejsze takowych się nie uczy. Mimo to nie odbyło się bez wpadek, w jednej z rozmów dotyczącej opieki zdrowotnej Zo zaatakował Koran, mówiąc, że jest on wyjątkowo brutalny.

5. Spektakularną wpadkę zaliczył także algorytm Facebooka, którego zadaniem jest blokowanie treści zawierających mowę nienawiści. Po opublikowaniu przez amerykańską gazetę fragmentów Deklaracji Niepodległości, jeden z nich został automatycznie usunięty. Fragment dotyczył słów wypowiedzianych przez Thomasa Jeffersona, w których opisał rdzennych Amerykanów jako „dzikich Indian”. Sztuczna inteligencja uznała, że jest to nawoływanie do mowy nienawiści ze względów rasowych. Facebook szybko przyznał się do błędu i przywrócił zakwestionowany przez sztuczną inteligencję tekst. Jednocześnie redaktorzy serwisu podkreślali, że w tamtych czasach brytyjscy kolonizatorzy nie traktowali rdzennych mieszkańców Ameryki jak ludzi.

6. Sztuczna inteligencja wielokrotnie też dyskryminowała ludzi ze względu na kolor skóry czy drobne różnice w fizjonomii ciała. Całkiem niedawno świat obiegł filmik z rasistowskim dozownikiem mydła w jednej z hotelowych toalet w Atlancie (wadliwa fotokomórka nie rozpoznawała czarnoskórych), niektóre telefony miały problem z wykryciem zbyt ciemnych twarzy, a rasistowski algorytm oceniający prawidłowość zdjęcia przedkładanego wraz z wnioskiem o paszport w jednym z nowozelandzkich urzędów notorycznie odrzucał fotografie mieszkańca Nowej Zelandii pochodzenia azjatyckiego.

7. Stworzony przez Davida Hansona robot powstał z myślą o konwersacjach z innymi ludźmi – został on zaprogramowany w taki sposób, aby na znane, powszechne pytania odpowiadać w zaprojektowany uprzednio sposób. Jednak, gdy robot natrafiał na coś, o czym wcześniej nie słyszał, miał połączyć się z siecią i na podstawie zebranych informacji tworzyć własną, unikalną odpowiedź. Podczas eksperymentu padło pytanie, czy jego zdaniem roboty kiedyś przejmą panowanie nad światem. Odpowiedź zmroziła naukowcom krew w żyłach –  robot podczas wywiadu stwierdził, że “(…) Jesteś moim przyjacielem, a ja zawsze pamiętam o moich przyjaciołach, nie musisz się więc o nic martwić. Nawet gdy już wyewoluujemy w to, co widzieliście w Terminatorze, wciąż nim pozostaniesz i obiecuję, że będę dla Ciebie miły. Z uwagi na “dawne czasy” przygotuję Ci nawet ciepłe i wygodne miejsce w ludzkim ZOO, gdzie będę mógł Cię doglądać”.

Bezpieczeństwo sieci

Gałczyńskiego 18
40-587 Katowice
NIP: 651-15-41-295
Tel: 32 225 99 66

email: kontakt@vida.pl

Zapytaj o produkt

Rozwiązania IT

Gałczyńskiego 18
40-587 Katowice
NIP: 651-15-41-295
Tel: 32 225 99 66
email: kontakt@vida.pl

UWAGA! Zmiana adresu siedziby firmy

Uprzejmie informujemy, iż od dnia 1 sierpnia 2019 roku ulega zmianie adres siedziby firmy oraz numer telefonu stacjonarnego.

Od dziś zapraszamy do nowej siedziby w Katowicach, przy ul. Gałczyńskiego 18.
Aktualny numer telefonu stacjonarnego to: 32 225 99 66.

UWAGA! Zmiana adresu siedziby firmy

Uprzejmie informujemy, iż od dnia 1 sierpnia 2019 roku ulega zmianie adres siedziby firmy oraz numer telefonu stacjonarnego.

Od dziś zapraszamy do nowej siedziby w Katowicach, przy ul. Gałczyńskiego 18.
Aktualny numer telefonu stacjonarnego to: 32 225 99 66.