Prawa robotyki to trzy zasady, które pisarz science fiction Isaac Asimov zebrał razem w opowiadaniu „Runaround” (po polsku „Zabawa w berka”), wydanym w marcu 1942 roku. Robot nie może skrzywdzić człowieka, musi słuchać ludzi i musi chronić siebie, a każde prawo ustępuje wcześniejszemu. Później Asimov dopisał prawo zerowe, które stawia dobro ludzkości ponad dobro jednego człowieka. Wszystkie pochodzą z literatury: prawdziwe roboty nie mają ich w oprogramowaniu.
Spis treści:
Jakie są 3 prawa robotyki Asimova?
Trzy prawa robotyki Asimova brzmią tak (w naszym tłumaczeniu z angielskiego):
- Pierwsze prawo: robot nie może skrzywdzić człowieka ani przez bezczynność dopuścić, by człowiekowi stała się krzywda.
- Drugie prawo: robot musi wykonywać polecenia ludzi, chyba że kłócą się one z pierwszym prawem.
- Trzecie prawo: robot musi chronić własne istnienie, o ile nie narusza to pierwszego ani drugiego prawa.
W opowiadaniach Asimova prawa są cytowane z fikcyjnego „Podręcznika robotyki, wydanie 56., rok 2058”. Tworzą hierarchię: bezpieczeństwo człowieka wygrywa z posłuszeństwem, a posłuszeństwo z troską robota o siebie. Robot wykona więc polecenie, które go zniszczy. Polecenia, po którym ucierpiałby człowiek, nie wykona.
W oryginale pierwsze prawo brzmi: „A robot may not injure a human being or, through inaction, allow a human being to come to harm”.
Asimov był przekonany, że to właśnie te zdania przetrwają najdłużej. W 1986 roku powiedział w wywiadzie telewizyjnym, że z milionów słów, które opublikował, za sto lat przetrwa tylko 60 angielskich: te, z których składają się trzy prawa robotyki.
Jakie jest pierwsze prawo robotyki?
Pierwsze prawo robotyki mówi, że robot nie może skrzywdzić człowieka ani przez bezczynność dopuścić, by człowiekowi stała się krzywda. Ma dwie części: zakaz szkodzenia i nakaz ratowania. Robot, który przygląda się tonącemu, łamie je tak samo jak robot, który kogoś popchnie.
Drugą część Asimov dopisał celowo. Według jego wspomnień podsunął mu ją satyryczny wiersz Arthura Hugha Clougha „The Latest Decalogue”, w którym zabijać nie wolno, ale też nie trzeba się starać, by kogoś utrzymać przy życiu.
Co się dzieje bez tej klauzuli, pokazuje opowiadanie „Zaginiony robot” z 1947 roku. Roboty NS-2 w wojskowej bazie mają pierwsze prawo okrojone do samego zakazu krzywdzenia. Powód? Wcześniejsze modele w dobrej wierze „ratowały” ludzi przed promieniowaniem, które człowiekowi przez chwilę nie szkodzi, a robota niszczy prawie od razu. Jeden z okrojonych robotów się ukrywa, a zdemaskowany próbuje zaatakować robopsycholożkę Susan Calvin.
Prawo zerowe – czwarte prawo robotyki
Prawo zerowe mówi, że robot nie może skrzywdzić ludzkości ani przez bezczynność dopuścić, by ludzkości stała się krzywda. Nazywa się zerowe, a nie czwarte, bo stoi ponad pierwszym: dla dobra całej ludzkości robot mógłby w ostateczności działać wbrew jednemu człowiekowi.
Z nazwy pojawia się w powieści „Roboty i Imperium” z 1985 roku, gdzie formułuje je robot R. Daneel Olivaw. Sam pomysł jest starszy, bo podobną myśl wypowiada Susan Calvin już w opowiadaniu „Konflikt do uniknięcia” z 1950 roku.
Prawo zerowe nie jest jedynym dodatkiem do trzech praw. Własne wersje dopisywali też inni pisarze:
| Prawo | Autor i rok | Brzmienie |
|---|---|---|
| Prawo zerowe | Isaac Asimov, „Roboty i Imperium”, 1985 | robot nie może skrzywdzić ludzkości ani przez bezczynność dopuścić do jej krzywdy |
| Czwarte prawo | Lyuben Dilov, 1974 | robot musi w każdej sytuacji ujawniać, że jest robotem |
| Piąte prawo | Nikola Kesarovski, 1983 | robot musi wiedzieć, że jest robotem |
| „Czwarte prawo robotyki” | Harry Harrison, opowiadanie w antologii „Foundation's Friends” z 1989 roku | robot musi się rozmnażać, o ile nie narusza to pierwszych trzech praw |
Prawo Dilova brzmi dziś zaskakująco współcześnie. Obowiązek, by maszyna nie udawała człowieka, wraca w zasadach dla sztucznej inteligencji, o których piszemy niżej.
Kim był Isaac Asimov i skąd wzięły się prawa?
Isaac Asimov był amerykańskim pisarzem science fiction i popularyzatorem nauki, z wykształcenia biochemikiem. Urodził się w Pietrowiczach w Rosji Radzieckiej między 4 października 1919 a 2 stycznia 1920 roku (dokładna data nie jest znana), a w 1923 roku rodzina wyemigrowała do Stanów Zjednoczonych. Doktorat z biochemii obronił w 1948 roku na Uniwersytecie Columbia, a potem wykładał na Uniwersytecie Bostońskim. Jako autor i redaktor ma na koncie ponad 500 książek, w tym cykl „Fundacja”. Zmarł 6 kwietnia 1992 roku w Nowym Jorku.
Przez trzy lata II wojny światowej pracował jako cywil w stoczni marynarki wojennej w Filadelfii. Stamtąd pochodzi zdjęcie na górze tej strony, zrobione w 1944 roku, dwa lata po „Zabawie w berka”.
Prawa wzięły się ze znużenia jednym schematem. Asimov wspominał, że gdy zaczynał pisać, jednym z ogranych motywów fantastyki był robot, który niszczy swojego twórcę. Postanowił, że jego roboty tego robić nie będą, bo dostaną wbudowane zabezpieczenia.
Samą listę ułożył w rozmowie z Johnem W. Campbellem, redaktorem magazynu „Astounding Science Fiction”, 23 grudnia 1940 roku. Asimov przypisywał prawa Campbellowi, Campbell odpowiadał, że Asimov miał je w głowie i trzeba je było tylko wypowiedzieć. W tekstach dojrzewały stopniowo:
- „Robbie” i „Powód”: roboty są bezpieczne, ale praw nikt nie cytuje,
- „Kłamca” (maj 1941): pada pierwsze prawo, a przy okazji po raz pierwszy słowo „robotyka”,
- „Zabawa w berka” (marzec 1942): wszystkie trzy prawa razem.
Prawa robotyki w książkach i filmach
Opowiadania o robotach Asimov zebrał w tomie „Ja, robot” z 1950 roku. To dziewięć historii spiętych postacią Susan Calvin, która opowiada reporterowi, jak rozwijała się robotyka. Po polsku zbiór wyszedł pierwszy raz w 1988 roku w przekładzie Neli Szurek.
Większość fabuł to łamigłówki. Prawa są jasne, robot zachowuje się dziwnie, a bohaterowie muszą ustalić, która reguła wzięła górę.
| Utwór | Rok | Co pokazuje o prawach |
|---|---|---|
| „Zabawa w berka”, opowiadanie | 1942 | robot Speedy krąży wokół jeziorka selenu na Merkurym, bo posłuszeństwo i instynkt samozachowawczy mają dla niego tę samą siłę; impas przerywa człowiek, który celowo naraża się na niebezpieczeństwo |
| „Dowód”, opowiadanie | 1946 | Susan Calvin wyjaśnia, że trzy prawa to zwykła ludzka moralność: nie krzywdzić innych, słuchać autorytetów, dbać o siebie |
| „Nagie słońce”, powieść | 1957 | detektyw Elijah Baley zauważa, że robot może zabić nieświadomie, na przykład dodając komuś do jedzenia truciznę, o której nic nie wie |
| „Człowiek przyszłości”, film | 1999 | robot NDR-114 grany przez Robina Williamsa przedstawia prawa rodzinie Martinów w pokazie holograficznym |
| „Ja, robot”, film | 2004 | Chicago 2035, roboty NS-5 i śledztwo detektywa Dela Spoonera (Will Smith); film otwierają trzy prawa, a reklamowało go hasło „Rules were made to be broken” |
Akcja „Zabawy w berka” dzieje się w 2015 roku, więc dziś czytamy ją jako opowieść o przeszłości, która się nie wydarzyła. Film „Ja, robot” w reżyserii Alexa Proyasa wziął z książki tytuł, postać Susan Calvin i wątek z „Zaginionego robota”, ale opowiada własną historię i dotyka problemu, który Asimov nazwał prawem zerowym.
Czy prawa Asimova działają w prawdziwych robotach?
Nie. Roboty nie mają praw Asimova wbudowanych z natury. Musiałby je tam wpisać człowiek, a przeszkód jest kilka:
- Robot nie rozumie słowa „krzywda”. Pierwsze prawo wymaga oceny, co komuś zaszkodzi, także pośrednio i nie tylko fizycznie. Filozof Nick Bostrom w książce z 2014 roku pytał, jak zważyć ból fizyczny wobec brzydkiej architektury albo niesprawiedliwości społecznej.
- Klauzula bezczynności nie ma końca. Zawsze da się zrobić coś, co jeszcze trochę zmniejszy ryzyko dla ludzi, więc pierwsze prawo pochłonęłoby całą pracę robota, a pozostałe straciłyby sens.
- Opowiadania podważają własne założenie. Informatyk Roger Clarke pisał w 1993 roku, że razem dowodzą one, iż zachowania robotów nie da się niezawodnie ograniczyć zestawem reguł.
- Pieniądze płyną z innej strony. Pisarz Robert J. Sawyer zauważył w 2007 roku w „Science”, że armia USA finansuje dużą część badań nad robotami i używa uzbrojonych dronów, więc trudno oczekiwać, że ktoś wbuduje w nie zakaz krzywdzenia ludzi.
Dochodzi do tego sposób działania dzisiejszej AI. Robot sterowany modelem uczonym na danych reaguje według wzorców wyuczonych w treningu, więc prawo trzeba by przełożyć na liczby i kod. Parlament Europejski uznał w 2017 roku wprost, że praw Asimova nie da się przełożyć na kod maszynowy.
Co naprawdę chroni ludzi przed robotami?
Ludzi przed robotami chronią normy bezpieczeństwa i przepisy, a w praktyce osłony, czujniki, ograniczenie siły i prędkości ramienia oraz ocena ryzyka całego stanowiska. Zasady siedzą w konstrukcji, w sterowniku i w organizacji pracy, więc maszyna nie musi ich rozumieć.
Podobnie widział to sam Asimov. W 1981 roku napisał w magazynie „Compute!”, że jego prawa stosują się do każdego narzędzia, i pokazał to na nożu. Nóż ma rękojeść, żeby nikt nie obciął sobie palców (bezpieczeństwo), ostrą krawędź, żeby w ogóle ciął (skuteczność), i twardą stal, która nie pęka ani szybko się nie tępi (trwałość). Kolejność jest ta sama co w trzech prawach.
| Idea z praw Asimova | Jak to wygląda w prawdziwej robotyce |
|---|---|
| Robot nie krzywdzi człowieka | normy ISO 10218-1 i ISO 10218-2 (bezpieczeństwo robotów przemysłowych i ich integracji w stanowisko), specyfikacja ISO/TS 15066 dla robotów współpracujących, ocena ryzyka według ISO 12100 |
| Robot słucha człowieka | nadzór człowieka jako obowiązek dla systemów AI wysokiego ryzyka w unijnym AI Act |
| Ktoś odpowiada za robota | brytyjskie zasady robotyki rad badawczych EPSRC i AHRC, opublikowane w 2011 roku: za robota odpowiadają ludzie i zawsze musi się dać ustalić, kto prawnie odpowiada za konkretną maszynę |
| Maszyna jest bezpieczna jako produkt | unijne rozporządzenie w sprawie maszyn 2023/1230, stosowane od 20 stycznia 2027 roku; do tego czasu obowiązuje dyrektywa maszynowa 2006/42/WE |
Ocenie podlega całe zastosowanie robota. Robot trzymający ostre narzędzie jest groźny dla ludzi obok, ten sam robot przekładający kawałki pianki raczej nie. Dlatego integrator, czyli firma, która montuje robota w stanowisku, ocenia ryzyko dla konkretnej pracy.
Jakie są 3 zasady sztucznej inteligencji?
Nie ma jednego urzędowego zestawu trzech zasad sztucznej inteligencji. Najbliżej tej formuły są wytyczne etyczne unijnej Grupy Ekspertów Wysokiego Szczebla ds. AI z 8 kwietnia 2019 roku. Według nich godna zaufania AI powinna być zgodna z prawem, etyczna i solidna, czyli odporna technicznie i dopasowana do środowiska społecznego, w którym działa.
Te trzy cechy wytyczne rozpisują na siedem wymogów: sprawczość i nadzór człowieka, techniczną solidność i bezpieczeństwo, prywatność i zarządzanie danymi, przejrzystość, różnorodność i sprawiedliwość, dobrostan społeczny i środowiskowy oraz rozliczalność.
Wytyczne nie są prawem. Wiążący jest AI Act, czyli rozporządzenie UE 2024/1689, które weszło w życie 1 sierpnia 2024 roku. Dzieli ono systemy AI według ryzyka na cztery poziomy:
- niedopuszczalne, czyli zakazane, jak manipulowanie zachowaniem ludzi czy punktowa ocena społeczna (social scoring),
- wysokie, na przykład AI w ochronie zdrowia, edukacji, rekrutacji albo infrastrukturze krytycznej: tu obowiązują wymogi jakości, przejrzystości, nadzoru człowieka i bezpieczeństwa oraz ocena zgodności,
- ograniczone, gdzie wystarczy przejrzystość: człowiek ma wiedzieć, że rozmawia z AI albo ogląda wygenerowany obraz,
- minimalne, jak filtry spamu czy gry wideo, bez dodatkowych obowiązków.
Obowiązek z poziomu ograniczonego przypomina czwarte prawo Dilova z 1974 roku: maszyna ma się przedstawić jako maszyna.
FAQ
Kto wymyślił prawa robotyki?
Isaac Asimov, amerykański pisarz science fiction. Wszystkie trzy prawa zebrał w opowiadaniu „Zabawa w berka” z marca 1942 roku, a prawo zerowe nazwał w powieści „Roboty i Imperium” z 1985 roku. Część zasług przypisywał redaktorowi Johnowi W. Campbellowi, z którym rozmawiał o nich w grudniu 1940 roku.
Czy prawa robotyki obowiązują naprawdę?
Nie jako prawo. To zasady z opowiadań, a roboty nie mają ich w oprogramowaniu. Parlament Europejski w rezolucji z 16 lutego 2017 roku o przepisach prawa cywilnego dotyczących robotyki uznał, że prawa Asimova trzeba traktować jako skierowane do projektantów, producentów i operatorów robotów, bo nie da się ich przełożyć na kod maszynowy.
Na czym polega prawo sztucznej inteligencji?
W Unii Europejskiej prawo sztucznej inteligencji opiera się na ocenie ryzyka: im większe zagrożenie dla zdrowia, bezpieczeństwa albo praw ludzi, tym więcej obowiązków. Najgroźniejsze zastosowania AI Act zakazuje, systemy wysokiego ryzyka muszą przejść ocenę zgodności i mieć nadzór człowieka, a przy czatach czy deepfake'ach wystarczy jasna informacja, że to AI.
Na jakich zasadach działa sztuczna inteligencja?
Współczesna sztuczna inteligencja uczy się wzorców z danych. Model ogląda bardzo dużo przykładów i dopasowuje swoje parametry, by trafniej przewidywać wynik: kolejne słowo, przedmiot na zdjęciu, ruch ramienia robota. Zasady w rodzaju praw Asimova trzeba więc wymuszać treningiem, testami i zabezpieczeniami wokół modelu.
Na czym polega robotyka?
Robotyka polega na projektowaniu, budowaniu i programowaniu robotów tak, żeby wykonywały pracę w prawdziwym świecie, a przy tym nie robiły krzywdy ludziom wokół. Nazwę dziedzinie dał pisarz science fiction: Asimov użył słowa „robotyka” po raz pierwszy w opowiadaniu „Kłamca” z maja 1941 roku, niecały rok przed ogłoszeniem trzech praw.
Od fikcji do prawdziwych maszyn
Prawa Asimova opisują roboty, które rozumieją świat na tyle, by ocenić, co komuś zaszkodzi. Prawdziwe maszyny są prostsze, za to znacznie bardziej różnorodne: od ramion spawalniczych po humanoidy i łaziki marsjańskie. Jeśli chcesz zobaczyć, czym jest robot według inżynierów, z czego się składa i jakie są jego rodzaje, zajrzyj do naszego przewodnika po tym, czym jest robot.
Zdjęcie główne: autor nieznany, Wikimedia Commons, licencja Public domain