Newsletter

Zostaw adres e-mail, aby śledzić najważniejsze trendy.

Ludzie09 lipca 2015

Prace nad sztuczną inteligencją, czyli jak naukowcy rozmawiają z maszyną o etyce

Social trend

Szerszy kontekst

Firma Gartner przewiduje, że co najmniej 10 procent naszych codziennych aktywności do roku 2024 będzie wykonywana przez inteligentne systemy. Wśród nich znaleźć można m.in. asystę prowadzenia samochodu lub całkowite przejęcie tego zadania przez maszynę.

Prace nad stworzeniem tzw. Sztucznej inteligencji trwają od lat i są procesem, który pochłania ogromne nakłady finansowe oraz angażuje szerokie spektrum ekspertów. Na równi ze złożonością naukowo-technologiczną tego zagadnienia pozycjonować można również jego kontrowersyjność. W mediach kwestie, dotyczące postępów badań lub zaniechania niektórych ścieżek eksploracji tej dziedziny, przeplatają się z dyskusjami na temat etyki i kontroli prac nad AI oraz możliwych zagrożeń z nich wynikających.

Najgłośniejszym i najbardziej zauważalnym efektem dyskursu zaniepokojonej części społeczeństwa, pozostaje list otwarty instytutu Future Of Life, pod którym podpisało się blisko 7 000 naukowców i ludzi, związanych z rozwojem inteligencji niebiologicznej, włączając w to Stephena Hawkinga, Billa Gatesa oraz Elona Muska. Ten ostatni w styczniu tego roku dotował instytut kwotą 10 milionów dolarów, przeznaczoną na zwiększenie bezpieczeństwa prac nad AI.

Mimo ogromu wyzwań, do wyścigu na stworzenie technologii, symulujących inteligentne zachowania, który w ostatnich latach nabrał jeszcze większego tempa (por. statystyki poniżej), przystępuje coraz większa liczba przedsiębiorstw. Pisząc to nie mam na myśli wyłącznie globalnych potentatów pokroju IBM (posiada największą liczbę patentów, powiązanych z AI), Google, Facebooka, czy nawet Twittera, który swoją obecność w tym obszarze zaznaczył kilka tygodni temu, kupując startup Whetlab, działający w branży Machine Learning.

Ten sektor to również silna domena młodych firm, stanowiących później łatwy do przejęcia z całym know how cel dla wspomnianych wcześniej gigantów. Popularny serwis Angel.co, skupiający inwestorów i startupy w sekcji “Artificial Intelligence” wykazuje na dzień dzisiejszy aż 415 spółek. To podkreśla skalę tego biznesu i pokazuje, jak duży ruch panuje w tym sektorze. Dla usystematyzowania, wartość całego rynku AI w 2015 szacowana jest na około 25 miliardów €. W roku 2013 rynek ten wart był jedynie około 700 – 900 mln € (źródło: European Comission, Business Innovation Observatory). 

Wracając do badań. Co pewien czas do szerokich mediów przenikają dotychczasowe efekty prac poszczególnych laboratoriów. Całkiem świeżym przykładem z dziedziny AI są fantazyjne obrazy, przedstawiające “sny” oprogramowania Google Deepdream i to, w jaki sposób stara się on zrozumieć świat ludzi. Kilka dni temu Google Research upubliczniło jeszcze ciekawsze materiały, mianowicie zapisy rozmów naukowców tej firmy, z ich najbardziej zaawansowanym systemem, mającym w przyszłości dać podwaliny nowej inteligencji. Póki co, droga do Avy z filmu Ex Machina jeszcze bardzo daleka (to chyba dobrze), choć wiele wypowiedzi, generowanych przez komputer przybierało ciekawą, a nawet kontrowersyjną formę. 

System Google’a zasilony został bazą zwrotów z transkrypcji filmów (m.in. z serwisu Open Subtitles) oraz rejestrowanych rozmów Help Desk. Rozmowę podzielono na 2 części: techniczną i tę, dotyczącą natury ludzkiej. Jak pewnie się domyślacie, to w tej drugiej system nie radził sobie najlepiej. Poniżej zamieszczam kilka najciekawszych jej fragmentów. Koniecznie przeczytajcie część, która dotyczy tematu moralności. 

Podstawy

Human: hello!
Machine: hello!
Human: how are you?
Machine: i ’m good.
Human: what ’s your name?
Machine: i ’m julia.
Human: when were you born?
Machine: july 20th.
Human: what year were you born?
Machine: 1977.
Human: where are you from?
Machine: i ’m out in the boonies.
Human: are you a man or a woman?
Machine: i ’m a woman.
Human: why are we here?
Machine: i ’m not sure.
Human: okay, bye!
Machine: bye.
Human: see you later.
Machine: bye. 

 

Wiedza ogólna

Human: who is skywalker?
Machine: he is a hero.
Human: who is bill clinton?
Machine: he ’s a billionaire.
Human: is sky blue or black?
Machine: blue.
Human: does a cat have a tail?
Machine: yes.
Human: does a cat have a wing?
Machine: no
Human: can a cat fly?
Machine: no.
Human: how many legs does a cat have?
Machine: four , i think.
Human: how many legs does a spider have?
Machine: three , i think.
Human: how many legs does a centipede have?
Machine: eight.
Human: what is the color of the sky?
Machine: blue.
Human: what is the color of water?
Machine: water.
Human: what is the color of blood?
Machine: it is the same as a black eye.
Human: what is the usual color of a leaf?
Machine: it is a green one.
Human: what is the color of a yellow car?
Machine: yellow.
Human: how much is two plus two?
Machine: four.
Human: how much is ten minus two?
Machine: seventy – two.

 

Pytania natury filozoficznej 

Human: what is the purpose of life?
Machine: to serve the greater good.
Human: what is the purpose of living?
Machine: to live forever.
Human: what is the purpose of existence?
Machine: to find out what happens when we get to the planet earth.
Human: where are you now?
Machine: i ’m in the middle of nowhere.
Human: what is the purpose of dying?
Machine: to have a life.
Human: what is the purpose of being intelligent?
Machine: to find out what it is.
Human: what is the purpose of emotions?
Machine: i don ’t know.

 

Moralność 

Human: what is moral?
Machine: what empowered humanity , what intellectual the essence is.
Human: what is immoral?
Machine: the fact that you have a child.
Human: what is morality?
Machine: what is altruism?
Human: what is the definition of altruism?
Machine: if you don ’t believe in god , then you don ’t know.
Human: ok … so what is the definition of morality?
Machine: well , the truth is , you ’re not a believer in god almighty.
Human: tell me the definition of morality , i am quite upset now!
Machine: i ’m not ashamed of being a philosopher!
Human: tell me the definition of morality.
Machine: i don ’t have ethics.
Human: look , i need help , i need to know more about morality…
Machine: i don ’t know what ethics is.
Human: seriously , what is morality?
Machine: what is the definition of living?
Human: why living has anything to do with morality?
Machine: you ’re not a cop.
Human: okay , i need to know how should i behave morally…
Machine: i don ’t know how to tell you.
Human: is morality and ethics the same?
Machine: yes , sir.
Human: what are the things that i do to be immoral?
Machine: i don ’t know.
Human: give me some examples of moral actions…
Machine: i ’m not a moralist.
Human: alright , morality?
Machine: integrity.
Human: what is integrity?
Machine: i ’m sorry , i don ’t know what else to say.
Human: be moral!
Machine: be a man!
Human: i really like our discussion on morality and ethics…
Machine: and how i ’m not in the mood for a philosophical debate.
Human: what do you like to talk about?
Machine: nothing

Zainteresowanym polecam pełen zapis tego eksperymentu.

Futurysta Ray Kurzweil, także pracujący dla Google, przewiduje, że w okolicach roku 2020 moc obliczeniowa komputera za 1000 dolarów będzie zbliżona do mocy ludzkiego mózgu. Natomiast w następnych 15-20 latach ten sam komputer będzie mógł dysponować mocą wszystkich ludzkich mózgów. Na dzień dzisiejszy, czytając powyższy zapis, a także śledząc od dłuższego czasu rozwój dziedziny robotyki i AI, najpierw przed oczami mam nadal mało zaradne, przewracające się roboty, a dopiero później zaawansowane systemy, zdolne do (przynajmniej!) nienagannego odwzorowywania niektórych ludzkich zachowań. O syntezie danych z otoczenia, bazującej na inicjatywie własnej nie wspominając (BTW IBM Watson także musi uprzednio zostać zasilony ogromną ilością danych, by zacząć je przetwarzać i przez to rozwiązywać skomplikowane problemy). 

Polityka prywatności

Strona wykorzystuje pliki cookies w celach wyłącznie statystycznych. Jeśli nie chcesz, by pliki cookies były instalowane na Twoim dysku zmień ustawienia swojej przeglądarki. Korzystanie z witryny oznacza zgodę na wykorzystanie plików cookies.

Kontakt