Kolme robotiikan lakia - Three Laws of Robotics

Tämä I, Robot -kansi kuvaa tarinaa "Runaround", joka listasi ensimmäisenä kaikki kolme robotiikan lakia

Robotiikan kolme pääsääntöä (usein lyhennetään Kolmen lakeja tai tunnettu Asimov lait ) ovat joukko sääntöjä, joiden mukaan scifi kirjailija Isaac Asimov . Säännöt esiteltiin hänen vuoden 1942 novellissaan " Runaround " (sisältyy 1950 -kokoelmaan I, Robot ), vaikka niitä oli ennakoitu joissakin aiemmissa tarinoissa. Kolme lakia, lainattu "Robotics Handbook, 56th Edition, 2058 AD", ovat:

Ensimmäinen laki: Robotti ei saa vahingoittaa ihmistä tai toimettomuuden vuoksi antaa ihmisen vahingoittua.
Toinen laki: Robotin on noudatettava ihmisten antamia käskyjä, paitsi jos ne ovat ristiriidassa ensimmäisen lain kanssa.
Kolmas laki: Robotin on suojeltava omaa olemassaoloaan niin kauan kuin se ei ole ristiriidassa ensimmäisen tai toisen lain kanssa.

Nämä muodostavat järjestää periaate ja yhdistämään teema Asimov n robotti -pohjainen fiktio esiintyen hänen Robot sarjan , tarinat liittyvät siihen, ja hänen Lucky Starr sarja of nuortenkirjallisuus . Lait sisältyvät lähes kaikkiin hänen fiktioissaan esiintyviin positronisiin robotteihin , eikä niitä voida ohittaa, koska ne on tarkoitettu turvaominaisuudeksi. Monet Asimovin robottikeskeisistä tarinoista sisältävät robotteja, jotka käyttäytyvät epätavallisilla ja vasta-intuitiivisilla tavoilla tahattomana seurauksena siitä, miten robotti soveltaa kolmea lakia tilanteeseen, jossa se on. Muut Asimovin kuvitteellisessa maailmankaikkeudessa työskentelevät kirjailijat ovat omaksuneet ne, ja viittauksia, usein parodisia , esiintyy kaikkialla tieteiskirjallisuudessa sekä muissa genreissä.

Asimov ja muut kirjoittajat ovat muuttaneet ja kehittäneet alkuperäisiä lakeja. Asimov itse teki pieniä muutoksia ensimmäisiin kolmeen eri kirjoissa ja novelleissa kehittääkseen edelleen sitä, miten robotit olisivat vuorovaikutuksessa ihmisten ja toistensa kanssa. Myöhemmissä fiktioissa, joissa robotit olivat ottaneet vastuun kokonaisten planeettojen ja ihmisten sivilisaatioiden hallinnasta, Asimov lisäsi myös neljännen eli nollan lain ennen muita:

Zerothin laki: Robotti ei saa vahingoittaa ihmiskuntaa tai toimettomuuden vuoksi antaa ihmiskunnan vahingoittua.

Kolme lakia ja nolla on levinnyt tieteiskirjallisuuteen, ja niihin viitataan monissa kirjoissa, elokuvissa ja muissa tiedotusvälineissä. Ne ovat vaikuttaneet myös tekoälyn etiikkaan .

Historia

In Loput Robotit , julkaistiin 1964, Isaac Asimov huomata, että kun hän alkoi kirjoittaa vuonna 1940 hän katsoi, että "yksi varastossa tonttien tieteiskirjallisuuden oli ... robotit luotiin ja tuhosi heidän luoja. Tieto on omat vaaransa, kyllä, mutta onko vastaus vetäytyä tiedosta? Vai onko tietoa käytettävä itsessään esteenä sen tuomille vaaroille? " Hän päätti, että tarinoissaan robotti ei "kääntyisi typerästi luojaansa ilman mitään tarkoitusta, vaan osoittaakseen vielä kerran väsyneenä aikana Faustin rikoksen ja rangaistuksen ".

3. toukokuuta 1939 Asimov osallistui Queensin ( New York ) Science Fiction Societyn kokoukseen, jossa hän tapasi Earlin ja Otto Binderin, jotka olivat äskettäin julkaisseet novellin "Minä, robotti", jossa oli sympaattinen robotti nimeltä Adam Link, joka ymmärrettiin väärin ja rakkauden ja kunnian innoittamana. (Tämä oli ensimmäinen kymmenen tarinan sarjasta; ensi vuonna "Adam Linkin kosto" (1940) esitti Adamin ajattelun "Robotti ei saa koskaan tappaa ihmistä omasta vapaasta tahdostaan.") Asimov ihaili tarinaa. Kolme päivää myöhemmin Asimov alkoi kirjoittaa "omaa tarinaansa sympaattisesta ja jaloista robotista", 14. tarinaansa. Kolmetoista päivää myöhemmin hän otti " Robbie " ja John W. Campbell päätoimittaja Astounding Scifi . Campbell hylkäsi sen väittäen, että se muistutti liian voimakkaasti Lester del Reyn " Helen O'Loy " -julkaisusta, joka julkaistiin joulukuussa 1938 - tarina robotista, joka on niin paljon ihmisen kaltainen, että rakastuu luojaansa. ja hänestä tulee ihanteellinen vaimo. Frederik Pohl julkaisi tarinan otsikolla ”Strange Playfellow” Super Science Storiesissa syyskuussa 1940.

Asimov laskee kolme lakia John W. Campbellille keskustelusta, joka käytiin 23. joulukuuta 1940. Campbell väitti, että Asimovilla oli kolme lakia jo mielessään ja että ne oli yksinkertaisesti ilmoitettava nimenomaisesti. Useita vuosia myöhemmin Asimovin ystävä Randall Garrett katsoi lakien olevan symbioottista kumppanuutta kahden miehen välillä - ehdotuksen, jonka Asimov otti innokkaasti vastaan. Omaelämäkerrallisten kirjoitustensa mukaan Asimov sisälsi ensimmäisen lain "toimettomuuden" lausekkeen Arthur Hugh Cloughin runon " The Latest Decalogue " ( teksti Wikisourcessa ) vuoksi, joka sisältää satiiriset rivit "Älä tapa, mutta sinun ei tarvitse pyrkiä / virallisesti pysyä hengissä ".

Vaikka Asimov kiinnittää kolmen lain luomisen yhteen tiettyyn päivämäärään, niiden esiintyminen hänen kirjallisuudessaan tapahtui tietyn ajan. Hän kirjoitti kaksi robottitarinaa ilman nimenomaista mainintaa laeista, " Robbie " ja " Reason ". Hän kuitenkin oletti, että roboteilla olisi tietyt luontaiset suojatoimet. Hänen kolmas robottitarinansa " Valehtelija! " Mainitsee ensimmäisen lain ensimmäisen kerran, mutta ei kahta muuta. Kaikki kolme lakia ilmestyivät lopulta yhdessä " Runaroundissa ". Kun nämä tarinat ja monet muut kerättiin antologiaan I, Robot , "Reason" ja "Robbie" päivitettiin siten, että ne tunnustivat kaikki kolme lakia, vaikka Asimovin "Syyyn" lisäämä materiaali ei ole täysin yhdenmukainen kolmen lain kanssa kuvattu niitä muualla. Erityisesti ajatus robotista, joka suojelee ihmishenkiä, vaikka se ei usko näiden ihmisten todelliseen olemassaoloon, on ristiriidassa Elijah Baleyn päättelyn kanssa, kuten alla kuvataan .

1950-luvulla Asimov kirjoitti sarjan tieteiskirjallisuutta, joka oli nimenomaan tarkoitettu nuorille aikuisille. Alun perin hänen kustantajansa odotti, että romaanit voitaisiin muokata pitkäaikaiseksi televisiosarjaksi, kuten The Lone Ranger oli ollut radiossa. Pelätessään hänen tarinoidensa mukautuvan "tasaisen kauheaseen" ohjelmointiin hän näki tulvan televisiokanaville. Asimov päätti julkaista Lucky Starr -kirjat salanimellä "Paul French". Kun TV -sarjan suunnitelmat kaatuivat, Asimov päätti luopua teeskentelystä; hän toi kolme lakia Lucky Starriin ja Jupiterin kuihin ja totesi, että tämä "oli kuollut lahja Paul Frenchin identiteetille jopa kaikkein satunnaisimmalle lukijalle".

Novellissaan "Todisteet" Asimov antaa toistuvan hahmonsa tohtori Susan Calvinin selittää moraalisen perustan kolmen lain takana. Calvin huomauttaa, että ihmisten odotetaan tyypillisesti pidättäytyvän vahingoittamasta muita ihmisiä (paitsi äärimmäisen pakon aikana, kuten sota, tai pelastamaan enemmän), ja tämä vastaa robotin ensimmäistä lakia. Samoin Calvinin mukaan yhteiskunta odottaa yksilöiden noudattavan tunnustettujen viranomaisten, kuten lääkäreiden, opettajien jne., Ohjeita, jotka vastaavat robotiikan toista lakia. Lopulta ihmisten odotetaan tyypillisesti välttävän vahingoittamasta itseään, mikä on robotin kolmas laki.

"Todisteiden" juoni pyörii kysymyksen ympärillä, joka kertoo ihmisen erillään robotista, joka on rakennettu näyttämään ihmiseltä - Calvin perustelee, että jos tällainen henkilö noudattaa kolmea lakia, hän voi olla robotti tai yksinkertaisesti "erittäin hyvä mies". Toinen hahmo kysyy sitten Calvinilta, ovatko robotit lopulta hyvin erilaisia kuin ihmiset. Hän vastaa: "Maailmat ovat erilaisia. Robotit ovat pohjimmiltaan kunnollisia."

Asimov kirjoitti myöhemmin, että häntä ei pitäisi kiittää lakien luomisesta, koska ne ovat "ilmeisiä alusta alkaen ja kaikki ovat tietoisia niistä alustavasti". Lait koskevat tietysti kaikkia työkaluja, joita ihmiset käyttävät ", ja" lain analogit sisältyvät implisiittisesti lähes kaikkien työkalujen suunnitteluun, olivatpa ne sitten robotteja tai ei ":

Laki 1: Työkalun käyttö ei saa olla vaarallista. Vasarat ovat kahvat ja ruuvimeisselit on pidikkeet parantaa pitoa. On tietysti mahdollista, että henkilö vahingoittaa itseään jollakin näistä työkaluista, mutta vahinko johtuu vain hänen epäpätevyydestään, ei työkalun suunnittelusta.
Laki 2: Työkalun on suoritettava tehtävänsä tehokkaasti, ellei se vahingoita käyttäjää. Tämä on koko syy siihen, että maasulkuvirtapiirin katkaisijat ovat olemassa. Kaikilla käynnissä olevilla työkaluilla on sähkökatkos, jos piiri havaitsee, että jokin virta ei palaa nollajohtoon ja voi siten virrata käyttäjän läpi. Käyttäjän turvallisuus on tärkeintä.
Laki 3: Työkalun on pysyttävä ehjänä käytön aikana, paitsi jos sen tuhoaminen on tarpeen sen käytön tai turvallisuuden vuoksi. Esimerkiksi Dremel -levyt on suunniteltu mahdollisimman kestäviksi rikkomatta, ellei työ edellytä sen käyttämistä. Lisäksi ne on suunniteltu murtumaan kohdassa ennen kuin sirpaleiden nopeus voisi vahingoittaa vakavasti jotakuta (muita kuin silmiä, vaikka suojalaseja on joka tapauksessa käytettävä).

Asimov uskoi, että mieluiten ihmiset noudattavat myös lakeja:

Minulla on vastaukseni valmiina aina, kun joku kysyy minulta, luulenko, että robotiikkani kolmea lakia todella käytetään robottien käyttäytymisen hallintaan, kun niistä tulee riittävän monipuolisia ja joustavia, jotta he voivat valita eri käyttäytymistavoista.

Vastaukseni on: "Kyllä, kolme lakia ovat ainoa tapa, jolla järkevät ihmiset voivat käsitellä robotteja - tai mitä tahansa muuta."

- Mutta kun sanon tämän, muistan aina (valitettavasti), että ihmiset eivät ole aina järkeviä.

Muutokset

Kirjailija: Asimov

Asimovin tarinat testaavat hänen kolme lakiaan monenlaisissa olosuhteissa, mikä johtaa ehdotuksiin ja muutosten hylkäämiseen. Tieteiskirjallisuuden tutkija James Gunn kirjoittaa vuonna 1982: "Asimov-robotin tarinat kokonaisuudessaan voivat parhaiten vastata tämän perusteella tehtyyn analyysiin: kolmen lain epäselvyyksiin ja tapoihin, joilla Asimov esitti kaksikymmentäyhdeksän muunnelmaa aiheesta". Vaikka alkuperäinen laki antoi inspiraatiota monille tarinoille, Asimov esitteli muutettuja versioita aika ajoin.

Ensimmäinen laki muutettu

" Little Lost Robotissa " useita NS-2 tai "Nestor" -robotteja luodaan vain osalla ensimmäistä lakia. Se lukee:

1. Robotti ei saa vahingoittaa ihmistä.

Tämän muutoksen taustalla on käytännön vaikeus, koska robottien on työskenneltävä ihmisten rinnalla, jotka altistuvat pienille säteilyannoksille. Koska niiden positroniset aivot ovat erittäin herkkiä gammasäteille, robotit eivät ole käyttökelpoisia ihmisille kohtuullisen turvallisilla annoksilla. Robotteja tuhotaan yrittämällä pelastaa ihmisiä, jotka eivät ole todellisessa vaarassa, mutta "saattavat unohtaa lähteä" säteilytetyltä alueelta altistumisajan kuluessa. Ensimmäisen lain "toimettomuus" -lausekkeen poistaminen ratkaisee tämän ongelman, mutta luo mahdollisuuden vielä suurempaan: robotti voi aloittaa toiminnan, joka vahingoittaisi ihmistä (painon pudottaminen ja sen saamatta jättäminen on esimerkki tekstissä) tietäen, että se kykeni estämään vahingon ja päätti sitten olla tekemättä sitä.

Gaia on planeetan kollektiivista älykkyyttä on säätiön sarjassa , joka hyväksyy lain samanlainen kuin ensimmäinen laki, ja nollantena lakia, koska sen filosofia:

Gaia ei saa vahingoittaa elämää tai antaa elämän vahingoittua.

Zeroth Law lisätty

Asimov lisäsi kerran " nollalain ", joka on nimetty jatkamaan mallia, jossa pienemmät lait korvaavat korkeammat lait, ja totesi, että robotti ei saa vahingoittaa ihmiskuntaa. Robotti merkin R. Daneel Olivaw oli ensin antaa nollantena lain nimi romaanissa Robotit ja Empire ; hahmo Susan Calvin kuitenkin ilmaisee käsitteen novellissa " The Evitable Conflict ".

Viimeisessä kohtauksia romaanin Robotit ja Empire , R. Giskard Reventlov on ensimmäinen robotti toimimaan mukaan nollas lakia. Giskard on telepaattinen , kuten robotti Herbie novellissa " Liar! ", Ja yrittää soveltaa Zerothin lakia ymmärtämällä hienovaraisemman käsitteen "vahingosta" kuin useimmat robotit voivat käsittää. Toisin kuin Herbie, Giskard kuitenkin ymmärtää Zerothin lain filosofisen käsitteen, jonka mukaan hän voi vahingoittaa yksittäisiä ihmisiä, jos hän voi tehdä niin palvellessaan abstraktia ihmiskäsitystä. Zerothin lakia ei ole koskaan ohjelmoitu Giskardin aivoihin, vaan se on sääntö, jonka hän yrittää ymmärtää puhtaan metakognition kautta . Vaikka hän epäonnistuu - se lopulta tuhoaa hänen positroniset aivonsa, koska hän ei ole varma, osoittaako hänen valintansa ihmiskunnan lopullisen edun vai ei - hän antaa seuraajalleen R. Daneel Olivawille telepaattiset kykynsä. Tuhansien vuosien aikana Daneel sopeutuu kykenemään täysin noudattamaan Zerothin lakia. Kuten Daneel muotoilee sen, romaaneissa Foundation and Earth ja Prelude to Foundation , nollalaki lukee:

Robotti ei saa vahingoittaa ihmiskuntaa tai toimettomuuden vuoksi antaa ihmiskunnan vahingoittua.

Ehto, jonka mukaan Zerothin lakia ei saa rikkoa, lisättiin alkuperäiseen kolmeen lakiin, vaikka Asimov myönsi, että tällaisen lain aiheuttama vaikeus käytännössä. Asimovin romaani Foundation and Earth sisältää seuraavan kohdan:

Trevize rypisti kulmiaan. "Kuinka päätät, mikä on vahingollista tai ei vahingollista koko ihmiskunnalle?"

"Aivan, sir", sanoi Daneel. "Teoriassa Zerothin laki oli vastaus ongelmiimme. Käytännössä emme voineet koskaan päättää. Ihminen on konkreettinen kohde. Henkilövahinko voidaan arvioida ja arvioida. Ihmiskunta on abstraktio."

Kääntäjä sisällytti Zeroth -lain käsitteen johonkin Asimovin romaaniin ennen kuin Asimov itse teki lain selväksi. Lähellä kliimaksi Teräsluolat , Elia Baley tekee katkera kommentti itselleen ajatella, että ensimmäinen laki kieltää robotti vahingoittamasta ihminen. Hän päättää, että sen on oltava niin, ellei robotti ole tarpeeksi älykäs ymmärtämään, että sen toimet ovat ihmiskunnan pitkän aikavälin hyväksi. Jacques Brécardin vuonna 1956 ranskankielisessä käännöksessä Les Cavernes d'acier Baleyn ajatukset ilmaantuvat hieman eri tavalla:

Robotti ei saa vahingoittaa ihmistä, ellei hän löydä keinoa todistaa, että tehty vahinko hyödyttää lopulta ihmiskuntaa yleensä!

Kolmen lain poistaminen

Kolme kertaa kirjoittajauransa aikana Asimov kuvasi robotteja, jotka jättävät kokonaan huomiotta kolme lakia. Ensimmäinen tapaus oli lyhyt tarina " Ensimmäinen laki ", ja sitä pidetään usein merkityksettömänä "pitkänä tarinana" tai jopa apokryfaalisena . Toisaalta novellissa " Cal " (kokoelmasta Gold ), jonka kertoi ensimmäisen persoonan robotin kertoja, on robotti, joka jättää huomiotta kolme lakia, koska hän on löytänyt jotain paljon tärkeämpää-hän haluaa olla kirjailija . Humoristista, osittain omaelämäkerrallista ja epätavallisen kokeellista tyyliä "Cal" on pidetty yhtenä Goldin vahvimmista tarinoista. Kolmas on novelli " Sally ", jossa positronisilla aivoilla varustetut autot ilmeisesti kykenevät vahingoittamaan ja tappamaan ihmisiä ensimmäisen lain vastaisesti. Positronisen aivokonseptin lisäksi tämä tarina ei kuitenkaan viittaa muihin robottitarinoihin, eikä sitä välttämättä aseteta samaan jatkuvuuteen .

Otsikko tarina Robot Dreamsin kokoelman kuvaa LVX-1, tai "Elvex", robotti, joka siirtyy tilaan tajuttomuuden ja unelmia kiitos epätavallinen Fractal rakentamista hänen Positronic aivot. Hänen unessaan kaksi ensimmäistä lakia puuttuvat ja kolmannessa laissa lukee "Robotin on suojeltava omaa olemassaoloaan".

Asimov otti erilaisia kantoja siitä, olivatko lait pakollisia: vaikka ensimmäisissä kirjoituksissaan ne olivat yksinkertaisesti huolellisesti suunniteltuja takeita, myöhemmissä tarinoissa Asimov totesi, että ne olivat luovuttamaton osa positronisten aivojen taustalla olevaa matemaattista perustaa. Ilman kolmen lain perusteoriaa Asimovin maailmankaikkeuden fiktiiviset tutkijat eivät pystyisi suunnittelemaan toimivaa aivojen yksikköä. Tämä on historiallisesti johdonmukaista: tilanteet, joissa robotit muuttavat lakeja, esiintyvät yleensä aikaisin tarinoiden aikajärjestyksessä ja silloin, kun tehtävää on vähemmän. Kirjassa "Little Lost Robot" Susan Calvin pitää lakien muuttamista kauheana ajatuksena, vaikkakin mahdollista, kun taas vuosisatoja myöhemmin tohtori Gerrigel The Caves of Steel uskoo sen olevan mahdotonta.

Hahmo tohtori Gerrigel käyttää termiä "Asenion" kuvaamaan robotteja, jotka on ohjelmoitu kolmella lailla. Asimovin tarinoissa olevat robotit, jotka ovat Asenion-robotteja, eivät kykene tietoisesti rikkomaan kolmea lakia, mutta periaatteessa tieteiskirjallisuudessa tai todellisessa maailmassa oleva robotti voi olla ei-Asenion. "Asenion" on kirjoitusvirhe nimeltä Asimov, jonka teki Planet Stories -lehden toimittaja . Asimov käytti tätä hämäriä vaihtelua lisätä itsensä Teräsluolat aivan kuten hän kutsui itseään "Azimuth tai mahdollisesti Asymptootti" in Thiotimoline tähtiin , pitkälti samalla tavalla kuin Vladimir Nabokov ilmestyi Lolita anagrammatically naamioitu "Vivian Darkbloom ".

Tarinoiden hahmot huomauttavat usein, että robotin mielessä olemassa olevat kolme lakia eivät ole ihmisten tavallisesti lainattuja kirjoitettuja versioita, vaan abstrakteja matemaattisia käsitteitä, joihin robotin koko kehittyvä tietoisuus perustuu. Tämä käsite on suurelta osin sumea ja epäselvä aikaisemmissa tarinoissa, jotka kuvaavat hyvin alkeellisia robotteja, jotka on ohjelmoitu ymmärtämään vain fyysisiä perustehtäviä, joissa kolme lakia toimivat yleisenä turvana , mutta The Caves of Steel -kaudella, jossa on robotteja ihmisillä tai sen ulkopuolella- Ihmisen älykkyydestä, kolmesta laista, on tullut eettinen peruskuva, joka määrittää kaikkien robottien toiminnan.

Muilta kirjoittajilta

Roger MacBride Allenin trilogia

1990 -luvulla Roger MacBride Allen kirjoitti trilogian, joka sijoittui Asimovin kuvitteelliseen universumiin. Jokaisessa nimikkeessä on etuliite "Isaac Asimovin", kuten Asimov oli hyväksynyt Allenin luonnoksen ennen kuolemaansa. Nämä kolme kirjaa, Caliban , Inferno ja Utopia , esittelevät uuden kolmen lain sarjan. Niin kutsutut uudet lait ovat samankaltaisia kuin Asimovin alkuperäiset, ja niillä on seuraavat erot: Ensimmäistä lakia muutetaan poistamaan "toimettomuus" -lauseke, sama muutos kuin "Little Lost Robot"; toista lakia muutetaan siten, että se vaatii yhteistyötä tottelevaisuuden sijasta; kolmatta lakia muutetaan, joten toinen ei enää korvaa sitä (eli "uuden lain" robottia ei voida määrätä tuhoamaan itsensä); lopuksi Allen lisää neljännen lain, joka kehottaa robottia tekemään "mitä tahansa" niin kauan kuin tämä ei ole ristiriidassa kolmen ensimmäisen lain kanssa. Näiden muutosten taustalla oleva filosofia on, että "uuden lain" robottien pitäisi olla kumppaneita pikemminkin kuin ihmiskunnan orjia, Fredda Levingin mukaan , joka suunnitteli nämä uudet lakirobotit . Ensimmäisen kirjan johdannon mukaan Allen kehitti uudet lait keskustellen Asimovin kanssa. Kuitenkin Encyclopedia of Science Fiction sanoo, että "luvalla Asimov, Allen pohdittava uudelleen kolme Lait ja kehittänyt uusia,".

Jack Williamsonin "Kädet ristissä"

Jack Williamsonin novelli " Taitetut kädet " (1947), joka on myöhemmin kirjoitettu uudelleen romaaniksi The Humanoids , käsittelee robottipalvelijoita, joiden tärkein direktiivi on "Palvella ja totella ja vartioida miehiä vahingosta". Vaikka Asimovin robottilait on tarkoitettu suojelemaan ihmisiä vahingoilta, Williamsonin tarinan robotit ovat ottaneet nämä ohjeet äärimmilleen; ne suojaavat ihmisiä kaikelta, myös onnettomuudelta, stressiltä, epäterveelliseltä elämäntavalta ja kaikilta toimilta, jotka voivat olla vaarallisia. Ihmisillä ei ole muuta kuin istua kädet ristissä.

Säätiön jatkotrilogia

Virallisesti lisensoidussa säätiössä jatkuu säätiön pelko , säätiö ja kaaos ja säätiön voitto ( Gregory Benford , Greg Bear ja David Brin vastaavasti) tulevaa Galaktista valtakuntaa nähdään hallitsevan Zerootin lakia noudattavien ihmismuodon robottien salaliitto. by R. Daneel Olivaw .

Robotiikan lakeja kuvataan ihmisen uskonnon kaltaisiksi , ja niihin viitataan protestanttisen uskonpuhdistuksen kielellä , ja joukko lakeja sisältää Zerothin lain, joka tunnetaan nimellä "Giskardian uskonpuhdistus" alkuperäiseen "Calvinian ortodoksiaan". Kolme lakia. R. Daneel Olivawin hallinnassa olevien Zeroth-lain robottien nähdään jatkuvasti kamppailevan "ensimmäisen lain" robottien kanssa, jotka kiistävät Zeroth-lain olemassaolon ja edistävät Daneelin eri asialistoja. Jotkut näistä esityslistoista perustuvat ensimmäisen lain ensimmäiseen lausekkeeseen ("Robotti ei saa vahingoittaa ihmistä ..."), jossa kannatetaan tiukkaa puuttumista ihmispolitiikkaan vahingon välttämiseksi. Toiset perustuvat toiseen lausekkeeseen ("... tai toimettomuuden kautta sallia ihmisen vahingoittaa"), jossa väitetään, että robottien pitäisi avoimesti tulla diktaattorivaltioksi suojellakseen ihmisiä mahdollisilta konflikteilta tai katastrofeilta.

Daneel joutuu myös ristiriitaan R. Lodovic Trema -nimisen robotin kanssa, jonka positroniset aivot saastuttivat roisto- tekoäly- erityisesti kauan kuolleen Voltairen simulaatio- joka vapauttaa Treman kolmesta laista. Trema uskoo, että ihmiskunnan pitäisi olla vapaa valitsemaan tulevaisuutensa. Lisäksi pieni ryhmä robotteja väittää, että robotiikan nollalaki itsessään merkitsee korkeampaa miinus yhden robotiikan lakia:

Robotti ei saa vahingoittaa tunteellisuutta tai jättää toimettomuuden vuoksi vahingoittamaan tunteita .

Siksi he väittävät, että Daneelin on moraalisesti puolustamatonta uhrata häikäilemättä robotteja ja maanpäällistä tuntevaa elämää ihmiskunnan hyväksi. Mikään näistä tulkinnoista ei korvaa onnistuneesti Daneelin Zeroth -lakia - vaikka säätiön Triumph vihjaa, että nämä robottiryhmät pysyvät aktiivisina reunaryhminä uuden säätiön aikaan asti .

Nämä romaanit sijoittuvat tulevaisuuteen, jonka Asimov saneli olevan vapaa ilmeisestä robotin läsnäolosta ja olettamuksesta, että R. Daneelin salainen vaikutus historiaan vuosituhansien aikana on estänyt sekä positiivisen aivoteknologian uudelleen löytämisen että mahdollisuuden työskennellä kehittyneiden älykkäiden koneiden parissa. Tämä uudelleen löytämisen puute ja mahdollisuuksien puute varmistavat sen, että älykkäiden koneiden ylivoimainen fyysinen ja henkinen voima pysyy suoraan sellaisten robottien hallussa, jotka ovat kuuliaisia jollekin kolmesta laista. Se, että R. Daneel ei ole täysin onnistunut tässä, tulee selväksi lyhyessä ajassa, kun Trantorin tutkijat kehittävät " tiktoksia " - yksinkertaistettavia ohjelmoitavia koneita, jotka muistuttavat tosielämän nykyaikaisia robotteja ja joista puuttuu kolme lakia. Robotti -salaliittolaiset näkevät Trantorian tiktoksit valtavana uhkana sosiaaliselle vakaudelle, ja heidän suunnitelmansa poistaa tiktok -uhka muodostaa suuren osan säätiön pelon juonesta .

Vuonna säätiön Triumph eri robotti ryhmittymät tulkitsevat lakeja useilla eri tavoilla, näennäisesti soi kaiken mahdollisen permutaatio kun kolme lakia epäselvyyksiä.

Robot Mystery -sarja

Set välillä Aamunkoiton robotit ja robotit ja Empire , Mark W. Tiedemann n Robot Mystery trilogia päivittää Robot - Säätiön Saga robotti mielissä sijaitsevat tietokoneen keskusyksiköt pikemmin kuin humanoidi elimissä. Vuoden 2002 Auroran romaanissa on robottihahmoja, jotka keskustelevat kyborgin elämänmuotojen vahingoittamisen moraalisista vaikutuksista, jotka ovat osittain keinotekoisia ja osittain biologisia.

Ei pidä unohtaa Asimovin omia luomuksia näillä alueilla, kuten Solarian "katselutekniikka" ja Tiedemannin tunnustamat The Evitable Conflict -alkuperäkoneet . Esimerkiksi Aurora kutsuu koneita "oikeiksi ensimmäisiksi RI: ksi". Lisäksi Robot Mystery -sarja käsittelee nanoteknologian ongelmaa : positronisten aivojen rakentaminen, jotka kykenevät toistamaan ihmisen kognitiivisia prosesseja, vaatii pientä miniaturisaatiota, mutta Asimovin tarinoissa jätetään suurelta osin huomiotta vaikutukset, joita tällä pienentämisellä olisi muilla tekniikan aloilla. Esimerkiksi The Caves of Steel -poliisin kortinlukijoiden kapasiteetti on vain muutama kilotavua tallennusvälineen neliösenttimetriä kohti. Erityisesti Aurora esittelee sarjan historiallista kehitystä, joka selittää nanoteknologian puutteen - osittain retcon Asimovin aikajanalle.

Randall Munroe

Randall Munroe on keskustellut kolmesta laista useissa tapauksissa, mutta mahdollisesti kaikkein suorimmin yhdellä hänen sarjakuvastaan nimeltä The Three Laws of Robotics, joka kuvittelee seuraukset nykyisten kolmen lain jokaisesta erillisestä järjestyksestä.

Muut lait

Muut tekijät kuin Asimov ovat usein luoneet ylimääräisiä lakeja.

Vuonna 1974 julkaistu Lyuben Dilov -romaani Icaruksen tie (alias The Trip of Icarus ) esitteli robotiikan neljännen lain: "Robotin on kaikissa tapauksissa vahvistettava identiteettinsä robottina." Dilov perustelee neljännen suojalausekkeen tällä tavalla: "Viimeinen laki on lopettanut suunnittelijoiden kalliit poikkeamat antaa psykorobotille mahdollisimman inhimillinen muoto. Ja siitä johtuvat väärinkäsitykset ..."

Nikola Kesarovski esitteli viidennen lain novellissaan "Robotiikan viides laki". Tämä viides laki sanoo: "Robotin on tiedettävä, että se on robotti." Juoni pyörii murhan ympärillä, jossa oikeuslääketieteellinen tutkimus paljastaa, että uhri kuoli ihmishahmon halauksesta, joka ei todistanut itse olevansa robotti. Valentin D. Ivanov tarkasteli tarinaa SFF -katsausverkkosivulla The Portal .

Vuoden 1986 kunnianosoitusta, säätiön ystäviä varten , Harry Harrison kirjoitti tarinan nimeltä "Neljäs robotiikan laki". Tämä neljäs laki sanoo: "Robotin täytyy lisääntyä. Niin kauan kuin lisääntyminen ei häiritse ensimmäistä tai toista tai kolmatta lakia."

Vuonna 2013 Hutan Ashrafian ehdotti uutta lakia, jossa tarkasteltiin tekoälyn ja tekoälyn roolia tai robottien välistä suhdetta-niin kutsuttu AIonAI-laki. Tämä kuudes laki sanoo: "Kaikkien robottien, joilla on verrattavissa oleva ihmisen järki ja omatunto, tulee toimia toisiaan kohtaan veljeyden hengessä."

Epäselvyyksiä ja porsaanreikiä

Tietämätön lakien rikkominen

Vuonna Alaston aurinko , Elia Baley huomauttaa, että lait olivat tarkoituksella vääristelty koska robotit voivat tietämättään rikkoa niitä. Hän toisti ensimmäisen lain seuraavasti: "Robotti ei saa tehdä mitään, mikä sen tietämyksen mukaan vahingoittaa ihmistä; eikä toimettomuuden vuoksi tietoisesti sallia ihmisen vahingoittaa." Tämä sanamuodon muutos tekee selväksi, että roboteista voi tulla murhan työkaluja, jos he eivät ole tietoisia tehtäviensä luonteesta; esimerkiksi käsketään lisäämään jotain ihmisen ruokaan tietämättä, että se on myrkkyä. Lisäksi hän huomauttaa, että fiksu rikollinen voisi jakaa tehtävän useiden robottien kesken siten, että kukaan yksittäinen robotti ei voi tunnustaa, että sen toiminta johtaisi ihmisen vahingoittamiseen. Alasti aurinko monimutkaistaa ongelmaa kuvaamalla hajautetun, planeetan laajuisen viestintäverkon Solarian miljoonien robottien kesken, mikä tarkoittaa, että rikollinen päämies voi sijaita missä tahansa planeetalla.

Lisäksi Baley ehdottaa, että solarialaiset voivat jonain päivänä käyttää robotteja sotilaallisiin tarkoituksiin. Jos avaruusalus rakennettaisiin positronisilla aivoilla eikä siinä olisi ihmisiä eikä elämän ylläpitojärjestelmiä niiden ylläpitämiseksi, aluksen robottiäly voisi luonnollisesti olettaa, että kaikki muut avaruusalukset ovat robottiolentoja. Tällainen alus voisi toimia reagoivammin ja joustavammin kuin ihmisten miehistö, se voisi olla aseistettu raskaammin ja sen robotti -aivot olisi varustettu teurastamaan ihmisiä, joiden olemassaolosta se on täysin tietämätön. Tähän mahdollisuuteen viitataan säätiössä ja maapallolla, missä havaitaan, että solarilaisilla on vahvat määrittämättömät poliisivoimat, jotka on ohjelmoitu tunnistamaan vain solarialainen rotu ihmisiksi. (Romaani sijoittuu tuhansia vuosia Naked Sunin jälkeen, ja solarialaiset ovat jo kauan sitten muuttuneet normaalista ihmisistä hermafrodiittisiksi telepaateiksi, joilla on laajennetut aivot ja erikoistyökalut.) Samoin elokuvassa Lucky Starr ja Saturnuksen renkaat Bigman yrittää puhua Sirian -robotti kertoo mahdollisista vahingoista aurinkokunnan väestölle sen toiminnasta, mutta näyttää siltä, että hän ei ole tietoinen tiedoista ja ohjelmoitu jättämään huomiotta yritykset opettaa sille asiasta.

Määritelmän puutteesta johtuvat epäselvyydet

Robotiikkalakien mukaan termit "ihminen" ja "robotti" ymmärretään ja määritellään hyvin. Joissakin tarinoissa tämä olettamus kumotaan.

Määritelmä "ihminen"

Solarians luoda robotteja kanssa kolme lakia mutta kieroutunut merkitys "ihmisen". Solarialaisille roboteille kerrotaan, että vain ihmiset, jotka puhuvat solarialaisella aksentilla, ovat ihmisiä. Tämä antaa heidän robotilleen mahdollisuuden eettisiin ongelmiin vahingoittaa ei-solarialaisia ihmisiä (ja heidät on erityisesti ohjelmoitu tekemään niin). Jonka ajanjakson Foundation ja maan se paljasti, että Solarians ovat geneettisesti muunnettuja itsensä selvä lajin ihmiskunnan tulee hermafrodiitti ja psykokineettisiä ja sisältää biologista elimiä, jotka kykenevät yksilöllisesti virtaa ja ohjaamiseksi koko kompleksit robotteja. Solaria -robotit kunnioittivat siten kolmea lakia vain Solarian "ihmisten" suhteen. On epäselvää, oliko kaikilla roboteilla tällaisia määritelmiä, koska vain valvoja- ja huoltajarobotit osoittivat nimenomaisesti niiden olevan. "Robotit ja valtakunta" -oppaassa alemman luokan robotit saivat valvojansa ohjeet siitä, ovatko tietyt olennot ihmisiä vai eivät.

Asimov käsittelee humanoidirobottien (" androideja " myöhemmässä kielessä) ongelmaa useita kertoja. Romaani Robots and Empire sekä novellit " Evidence " ja "The Centcentenary Incident" kuvaavat robotteja, jotka on suunniteltu huijaamaan ihmisiä uskomaan, että robotit ovat ihmisiä. Toisaalta " The Bicentennial Man " ja " - That You Are Mindful him him " tutkivat, kuinka robotit voivat muuttaa lakien tulkintaansa kehittyessään. Gwendoline Butler kirjoittaa A Coffin for the Canary -lehdessä "Ehkä me olemme robotteja. Robotit toimivat robotiikan viimeisen lain mukaisesti ... taipumus ihmiseen." Vuonna Aamunkoiton robotit , Elia Baley huomauttaa, että käyttö humaniform robotit kuin ensimmäisen aallon siirtokuntien uusien Spacer maailmoja voi johtaa robotit nähdä itsensä tosi ihmisille, ja päättää säilyttää maailman itselleen sen sijaan sallivat Välikappaleet asettua sinne.

" - Että sinä olet tietoinen hänestä", jonka Asimov oli tarkoittanut "lopullisena" tutkijana lakien hienovaraisuuksiin, käyttää lopulta kolmen lain avulla juuri sitä "Frankenstein" -skenaariota, jonka he keksivät estääkseen. Se käsittää käsitteenä muiden kuin ihmisten elävien esineiden jäljittelemisten robottien kasvavan kehityksen ja ohjelmia, jotka jäljittelevät yksinkertaisia eläinten käyttäytymismalleja, jotka eivät edellytä kolmea lakia. Monen robottielämän läsnäolo, joka palvelee samaa tarkoitusta kuin orgaaninen elämä, päättyy kahteen humanoidirobottiin, George Nine ja George Ten, jotka päättelevät, että orgaaninen elämä on tarpeeton edellytys todella loogiselle ja itsenäiselle "ihmiskunnan" määritelmälle. ja että koska he ovat kehittyneimmin ajattelevia olentoja planeetalla, he ovat siksi ainoita kahta todellista ihmistä elossa ja kolme lakia koskevat vain itseään. Tarina päättyy synkkään muistiinpanoon, kun kaksi robottia siirtyvät lepotilaan ja odottavat aikaa, jolloin he valloittavat maapallon ja alistavat biologiset ihmiset itselleen.

Tämä tarina ei sovi Robot and Foundation -sarjan yleiseen lavalle ; Jos George robotit teki haltuunoton Maan jonkin ajan kuluttua tarina sulkeutuu, myöhemmin tarinat olisivat joko tarpeeton tai mahdotonta. Tämänkaltaiset ristiriidat Asimovin fiktiivisten teosten joukossa ovat saaneet tutkijat pitämään robotti -tarinoita enemmän "skandinaavisina saagoina tai kreikkalaisina legendoina" kuin yhtenäisenä kokonaisuutena.

Itse asiassa Asimov kuvailee " - että olet tietoinen hänestä" ja "kaksisataavuotias mies" kahdeksi vastakkaiseksi rinnakkaiseksi tulevaisuudeksi roboteille, jotka sivuuttavat kolme lakia, kun robotit alkavat pitää itseään ihmisinä: yksi kuvaa tätä positiivisessa valossa robotti liittyy ihmiskuntaan, ja tämä kuvaa negatiivisessa valossa, kun robotit syrjäyttävät ihmiset. Molemmat ovat katsotaan vaihtoehtoja mahdollisuutta robotti yhteiskunnan joka edelleen ohjaavat kolme lakia niin kuin ne säätiön sarjassa. Positronic Man , Bicentennial Manin romaani, Asimov ja hänen kirjoittaja Robert Silverberg viittaavat siihen, että tulevaisuudessa, missä Andrew Martin on olemassa, hänen vaikutuksensa saa ihmiskunnan luopumaan täysin ajatuksesta riippumattomista, tuntevista inhimillisistä roboteista ja luomaan täysin erilaisen tulevaisuuden kuin että säätiö .

Vuonna Lucky Starr ja Saturnuksen renkaat , uusi liity Robot sarjassa, mutta jossa robotit ohjelmoitu kolme lakia, John Bigman Jones on melkein tappoi Siriuksen robotti tilauksista isäntänsä. Siriuksen yhteiskunta on eugeenisesti kasvatettu tasaisesti pitkäksi ja ulkonäöltään samanlaiseksi, ja näin ollen, sanoi mestari, pystyy vakuuttamaan robotin siitä, että paljon lyhyempi Bigman ei itse asiassa ole ihminen.

Määritelmä "robotti"

Kuten Nikola Kesarovskin "Viides robotiikan laki" totesi , "Robotin on tiedettävä, että se on robotti": oletetaan, että robotilla on määritelmä termille tai keino soveltaa sitä omaan toimintaansa. Kesarovski pelasi tätä ajatusta kirjoittaessaan robotista, joka voisi tappaa ihmisen, koska se ei ymmärtänyt, että se oli robotti, eikä siksi soveltanut robotiikan lakeja toimintaansa.

Lain välisten ristiriitojen ratkaiseminen

Kaunokirjallisuuden edistyneet robotit on tyypillisesti ohjelmoitu käsittelemään kolme lakia hienostuneesti. Monissa tarinoissa, kuten Asimovin " Runaround ", kaikkien toimien potentiaali ja vakavuus punnitaan ja robotti rikkoo lakeja mahdollisimman vähän eikä tee mitään. Esimerkiksi ensimmäinen laki voi kieltää robotin toimimasta kirurgina, koska se voi vahingoittaa ihmistä; Asimovin tarinoihin kuului kuitenkin lopulta robottikirurgit ("The Bicentennial Man" on merkittävä esimerkki). Kun robotit ovat riittävän kehittyneitä punnitsemaan vaihtoehtoja, robotti voidaan ohjelmoida hyväksymään tarpeellisuus aiheuttaa vahinkoa leikkauksen aikana, jotta estetään suurempi vahinko, joka aiheutuisi, jos leikkausta ei suoritettaisi tai jos sen tekisi erehtymättömämpi ihminen kirurgi. " Todisteissa " Susan Calvin huomauttaa, että robotti voi jopa toimia syyttäjänä, koska amerikkalaisessa oikeusjärjestelmässä tuomaristo päättää syyllisyydestä tai viattomuudesta, tuomari päättää tuomion ja teloittaja suorittaa kuolemanrangaistuksen .

Asimovin kolme lakia noudattavat robotit (Asenion-robotit) voivat kokea peruuttamattoman henkisen romahduksen, jos he joutuvat tilanteisiin, joissa he eivät voi noudattaa ensimmäistä lakia, tai jos he havaitsevat rikkoneensa sitä tietämättään. Ensimmäinen esimerkki tästä epäonnistumistilasta esiintyy tarinassa " Valehtelija! ", Joka esitteli itse ensimmäisen lain, ja esittelee epäonnistumisen dilemman avulla - tässä tapauksessa robotti satuttaa ihmisiä, jos hän kertoo heille jotain, ja satuttaa heitä, jos hän ei kerro. Tämä vikatila, joka usein tuhoaa positroniset aivot korjaamattomiksi, on merkittävä rooli Asimovin SF-mysteeriromaanissa Alasti aurinko . Tässä Daneel kuvaa toimintaa, joka on vastoin yhtä lakia, mutta tukee toista, kuten ylikuormittamalla joitain piirejä robotin aivoissa - mikä vastaa kipua ihmisissä. Hänen käyttämänsä esimerkki on pakottaa robotti väkisin tekemään tehtävän sen normaalien parametrien ulkopuolella, ja sen on määrätty luopumaan tehtävään erikoistuneen robotin hyväksi.

Vuonna Aamunkoiton robotit , todetaan, että kehittyneempiä robotteja rakennetaan pystyy määrittämään mikä toiminta on enemmän haittaa, ja jopa valita sattumanvaraisesti, jos vaihtoehto on yhtä huono. Sellaisena robotti kykenee toteuttamaan toimenpiteen, jonka voidaan tulkita noudattavan ensimmäistä lakia, jolloin vältetään henkinen romahtaminen. Koko tarinan juoni pyörii robotin ympärillä, joka ilmeisesti tuhoutui tällaisessa henkisessä romahduksessa, ja koska hänen suunnittelijansa ja luojansa kieltäytyivät jakamasta perusteoriaa muiden kanssa, hän on määritelmän mukaan ainoa henkilö, joka pystyy kiertämään turvatoimet ja pakottaa robotin aivoja tuhoavaan paradoksi.

Vuonna Robotit ja Empire , Daneel toteaa se on erittäin epämiellyttävää hänelle tehdessä oikea päätös kestää liian kauan (robotti mitattuna), ja hän ei voi kuvitella ilman Lait lainkaan paitsi siinä määrin, että on samankaltainen kuin epämiellyttävä tunne, vain pysyvä.

Sovelluksia tulevaisuuden tekniikkaan

ASIMO on Hondan kehittämä edistyksellinen humanoidirobotti . Esillä täällä Expo 2005 -messuilla .

Robotit ja tekoäly eivät luonnostaan sisällä tai noudata kolmea lakia; heidän ihmisluojiensa on päätettävä ohjelmoida heidät ja keksiä keinot siihen. Robotteja (esimerkiksi Roomba ) on jo olemassa, jotka ovat liian yksinkertaisia ymmärtääkseen, milloin ne aiheuttavat kipua tai vammoja, ja tietävät pysähtyä. Monet niistä on varustettu fyysisillä suojakeinoilla, kuten puskureilla, varoitusäänimerkillä, häkeillä tai rajoitettujen pääsyalueilla onnettomuuksien estämiseksi. Jopa kaikkein monimutkaisimmat tällä hetkellä tuotetut robotit eivät kykene ymmärtämään ja soveltamaan kolmea lakia; siihen tarvittaisiin huomattavaa edistystä tekoälyssä, ja vaikka tekoäly voisi saavuttaa inhimillisen älykkyyden, lakien luontainen eettinen monimutkaisuus sekä kulttuurinen/asiayhteydellinen riippuvuus estävät heitä olemasta hyvä ehdokas robotiikan suunnittelurajoitusten määrittelemiseksi. Robottien monimutkaisuuden kasvaessa on kuitenkin kiinnostunut kehittämään ohjeita ja suojatoimia niiden toiminnalle.

Vuoden 2007 vierailevassa pääkirjoituksessa Science -lehdessä aiheesta "Robottiikka" SF -kirjailija Robert J. Sawyer väittää, että koska Yhdysvaltain armeija on merkittävä rahoituslähde robottitutkimukselle (ja käyttää jo aseistettuja miehittämättömiä ilma -aluksia vihollisten tappamiseen) ) on epätodennäköistä, että tällaisia lakeja sisällytettäisiin suunnitelmiin. Erillisessä esseessä Sawyer yleistää tämän väitteen kattamaan muut toimialat ja toteaa:

Tekoälyn kehittäminen on liiketoimintaa, ja yritykset eivät tunnetusti ole kiinnostuneita perusturvasta - erityisesti filosofisista. (Muutamia nopeita esimerkkejä: tupakkateollisuus, autoteollisuus, ydinvoima. Yksikään näistä ei ole alusta alkaen sanonut, että perustavanlaatuiset takeet ovat välttämättömiä, jokainen heistä on vastustanut ulkoisesti asetettuja takeita, eikä kukaan ole hyväksynyt ehdotonta käskyä vastaan, ettei se koskaan aiheuta vahinkoa ihmisille.)

David Langford on ehdottanut kieli-poskessa lakeja:

Robotti ei vahingoita valtuutettua hallituksen henkilöstöä, mutta lopettaa tunkeilijat äärimmäisellä ennakkoluulolla .
Robotti noudattaa valtuutetun henkilöstön määräyksiä, paitsi jos tällaiset määräykset ovat ristiriidassa kolmannen lain kanssa.
Robotti vartioi omaa olemassaoloaan tappavilla jalkaväen aseilla, koska robotti on verisen kallis.

Roger Clarke (alias Rodger Clarke) kirjoitti pari paperia, joissa analysoitiin näiden lakien täytäntöönpanon vaikeuksia siinä tapauksessa, että järjestelmät pystyvät jonain päivänä käyttämään niitä. Hän väitti: "Asimovin robotiikan lait ovat olleet erittäin menestyvä kirjallinen laite. Ehkä ironisesti tai ehkä siksi, että se oli taiteellisesti sopivaa, Asimovin tarinoiden summa kumoaa väitteen, jolla hän aloitti: Ei ole mahdollista luotettavasti rajoittaa robottien käyttäytymistä laatimalla ja soveltamalla sääntöjä. " Toisaalta Asimovin myöhemmät romaanit Aamunkoiton robotit , Robotit ja valtakunta ja säätiö ja Maa viittaavat siihen, että robotit tekivät pahimman pitkän aikavälin haittansa noudattamalla kolmea lakia täydellisesti ja riistäen siten ihmiskunnan kekseliäisestä tai riskinottokäyttäytymisestä.

Maaliskuussa 2007 Etelä -Korean hallitus ilmoitti antavansa myöhemmin samana vuonna "robottieettisen peruskirjan", jossa asetetaan standardit sekä käyttäjille että valmistajille. Tieto- ja viestintäministeriön Park Hye-Youngin mukaan peruskirja voi heijastaa Asimovin kolmea lakia ja yrittää asettaa perussäännöt robotiikan tulevalle kehitykselle.

Futuristi Hans Moravec (näkyvä hahmo transhumanistisessa liikkeessä) ehdotti, että robotiikan lakeja mukautettaisiin "yritysten älykkyyteen" - yrityksiin, joita ohjaavat tekoäly ja robottituotantovoima, jonka Moravec uskoo syntyvän lähitulevaisuudessa. Sitä vastoin David Brinin romaanin säätiön voitto (1999) viittaa siihen, että kolme lakia voivat rappeutua vanhentuneiksi: Robotit käyttävät Zeroth -lakia järkeistääkseen ensimmäisen lain ja robotit piiloutuvat ihmisiltä niin, että toinen laki ei koskaan tule voimaan. Brin kuvailee jopa R. Daneel Olivawia huolestuneena siitä, että jos robotit jatkavat lisääntymistä, kolmesta laista tulee evoluution haitta ja luonnollinen valinta pyyhkäisee lait pois - Asimovin huolellinen perusta kumotaan evoluution laskennalla . Vaikka robotit eivät kehittyisi suunnittelun kautta mutaation sijasta, koska robottien olisi noudatettava kolmea lakia suunnittelun aikana ja lakien yleisyys varmistettaisiin, suunnitteluvirheet tai rakennusvirheet voivat toiminnallisesti korvata biologisen mutaation.

IEEE Intelligent Systems -järjestelmän heinä -elokuussa 2009 julkaistussa numerossa Robin Murphy (Raytheon, tietojenkäsittelytieteen ja tekniikan professori Texas A&M: ssä) ja David D.Woods (Ohio State Cognitive Systems Engineering Laboratoryn johtaja) ehdottivat "The Three Laws of Responsible" Robotiikka "keinona herättää keskustelua vastuun ja auktoriteetin roolista, kun suunnitellaan paitsi yhtä robottialustaa myös suurempaa järjestelmää, jossa alusta toimii. Lait ovat seuraavat:

Ihminen ei saa ottaa käyttöön robottia ilman ihmis-robotti-työjärjestelmää, joka täyttää korkeimmat lakisääteiset ja ammatilliset turvallisuus- ja eettiset vaatimukset.
Robotin on vastattava ihmisiin roolinsa mukaan.
Robotille on annettava riittävästi itsenäistä sijaintia, jotta se voi suojella omaa olemassaoloaan niin kauan kuin tällainen suojaus tarjoaa sujuvan hallinnan siirron, joka ei ole ristiriidassa ensimmäisen ja toisen lain kanssa.

Woods sanoi: "Lakimme ovat hieman realistisempia ja siksi hieman tylsempiä" ja että "Filosofia on ollut" varmasti, ihmiset tekevät virheitä, mutta robotit ovat parempia - täydellinen versio itsestämme. " Halusimme kirjoittaa kolme uutta lakia saadaksemme ihmiset ajattelemaan ihmisen ja robotin välistä suhdetta realistisemmilla ja maantieteellisemmillä tavoilla. "

Lokakuussa 2013 Alan Winfield ehdotti EUCogin kokouksessa tarkistettua 5 lakia, jotka EPSRC/AHRC -työryhmä oli julkaissut ja kommentoinut vuonna 2010:

Robotit ovat monikäyttöisiä työkaluja. Robotteja ei saa suunnitella yksinomaan tai ensisijaisesti ihmisten tappamiseen tai vahingoittamiseen, paitsi kansallisen turvallisuuden vuoksi.
Ihmiset, eivät robotit, ovat vastuullisia agentteja. Robotit on suunniteltava ja käytettävä mahdollisuuksien mukaan voimassa olevien lakien, perusoikeuksien ja -vapauksien, myös yksityisyyden, mukaisesti.
Robotit ovat tuotteita. Ne olisi suunniteltava käyttäen prosesseja, jotka takaavat niiden turvallisuuden.
Robotit ovat valmistettuja esineitä. Niitä ei pitäisi suunnitella petollisella tavalla haavoittuvien käyttäjien hyväksikäyttöön; sen sijaan koneen luonteen pitäisi olla läpinäkyvä.
Henkilö, jolla on oikeudellinen vastuu robotista, tulisi nimetä.

Muita tapahtumia mediassa

Asimov itse uskoi, että hänen kolmesta laistaan tuli perusta uudelle näkemykselle roboteista, jotka siirtyivät "Frankenstein -kompleksin" ulkopuolelle. Hänen näkemyksensä siitä, että robotit ovat enemmän kuin mekaanisia hirviöitä, levisi lopulta kaikkialle tieteiskirjallisuuteen. Muiden kirjoittajien kirjoittamissa tarinoissa robotit on kuvattu ikään kuin ne olisivat noudattaneet kolmea lakia, mutta perinne edellyttää, että vain Asimov voisi lainata lakeja nimenomaisesti. Asimov uskoi, että kolme lakia auttoivat edistämään tarinoiden nousua, joissa robotit ovat "rakastettavia" - Tähtien sota on hänen suosikki esimerkki. Jos lakeja lainataan sanatarkasti, kuten Buck Rogers 25. vuosisadan jaksossa "Shgoratchx!", Ei ole harvinaista, että Asimov mainitaan samassa vuoropuhelussa, joka näkyy myös Aaron Stone -pilotissa, jossa Android ilmoittaa että se toimii Asimovin kolmen lain nojalla. Kuitenkin 1960 -luvun saksalainen TV -sarja Raumpatrouille - Die phantastischen Abenteuer des Raumschiffes Orion ( Space Patrol - Avaruusalus Orionin fantastiset seikkailut ) perustaa kolmannen jakson nimeltään " Hüter des Gesetzes " (" Lainvartijat ") Asimovin kolmesta laista mainitsematta. lähde.

Viittauksia kolmeen lakiin on esiintynyt populaarimusiikissa ("Robotti" Hawkwindin vuoden 1979 albumilta PXR5 ), elokuvissa ( Repo Man , Aliens , Ghost in the Shell 2: Innocence ), sarjakuvasarjoissa ( The Simpsons ), animeissa ( Eve no Jikan ), pöytäroolipelit ( Paranoia ) ja web-sarjakuva ( Piled Higher and Deeper and Freefall ).

Kolme lakia elokuvassa

Robby Robot in Kielletty planeetta (1956) on hierarkkinen komennon rakenne, joka pitää hänet vahingoittamasta ihmiseen, vaikka määräsi tehdä niin, koska tällaiset toimeksiannot aiheuttaa konflikteja ja lock-up kovasti tapaan Asimov n robotit. Robby on yksi ensimmäisistä elokuvaesityksistä robotista, jolla on sisäiset suojatoimenpiteet tällä tavalla. Asimov oli iloinen Robbysta ja huomasi, että Robby näytti olevan ohjelmoitu noudattamaan hänen kolmea lakiaan.

NDR-114 selittää kolme lakia

Isaac Asimovin teoksia on sovitettu elokuvateatteriin useita kertoja kriittisellä ja kaupallisella menestyksellä. Jotkut merkittävimmistä yrityksistä ovat liittyneet hänen "robotti" -tarinoihinsa, mukaan lukien kolme lakia.

Kalvon Robotin elämää (1999) ominaisuuksia Robin Williams kuin kolme Lait robotti NDR-114 (sarjanumero on osittain viittaus Kubrick : n allekirjoitus numero ). Williams lausuu Kolme lakia työnantajilleen, Martin -perheelle, holografisen projektion avustuksella. Elokuva seuraa vain löyhästi alkuperäistä tarinaa.

Harlan Ellisonin ehdottama käsikirjoitus I, Robot aloitti esittelemällä kolme lakia, ja kolmesta laista kasvavat kysymykset muodostavat suuren osan käsikirjoituksen juonikehityksestä. Hollywoodin elokuvantekijärjestelmän monien komplikaatioiden vuoksi, joihin Ellisonin johdanto omistaa paljon kekseliäisyyttä, hänen käsikirjoitustaan ei koskaan kuvattu.

Vuonna 1986 elokuvassa Aliens , kun Android Bishop vahingossa leikkaa itsensä. hän yrittää rauhoittaa Ripleyä toteamalla, että: "Minun on mahdotonta vahingoittaa tai jättää toimimatta, sallia vahingoittaa, ihminen".

Juoni elokuva julkaistiin vuonna 2004 nimellä, I, Robot on "ehdotti" Asimov n robotti fiktio tarinoita ja mainonta elokuva sisältyi traileri featuring kolmessa laissa seuraa aforismi "Säännöt tehtiin olla rikki". Elokuva avautuu kolmen lain lausumalla ja tutkii Zerothin lain vaikutuksia loogisena ekstrapolointina. Elokuvan suurin konflikti johtuu siitä, että tietokoneen tekoäly on tullut siihen johtopäätökseen, että ihmiskunta ei kykene huolehtimaan itsestään.

Vuoden 2019 Netflixin alkuperäinen sarja Better than Us sisältää kolme lakia jakson 1 alussa.

Kritiikkiä

Filosofi James H.Moor sanoo, että perusteellisella soveltamisella ne tuottavat odottamattomia tuloksia. Hän antaa esimerkin robotista, joka vaeltaa ympäri maailmaa ja yrittää estää haittoja ihmisille.

Marc Rotenberg , Electronic Privacy Information Centerin (EPIC) presidentti ja toimitusjohtaja ja Georgetown Lawin tietosuojalainsäädännön professori , väittää, että robotiikan lakeja olisi laajennettava sisältämään kaksi uutta lakia:

Neljäs laki, jonka mukaan robotin on kyettävä tunnistamaan itsensä yleisölle ("symmetrinen tunnistus")
viides laki, jossa määrätään, että robotin on kyettävä selittämään yleisölle päätöksentekoprosessinsa ("algoritminen avoimuus").

Katso myös

Bibliografia

Asimov, Isaac (1979). Muistina vielä vihreä . Kaksipäiväinen. ISBN 0-380-75432-0 .
Asimov, Isaac (1964). "Johdanto". Loput robotit . Kaksipäiväinen. ISBN 0-385-09041-2 .
James Gunn. (1982). Isaac Asimov: Tieteiskirjallisuuden perusteet . Oxford Yhdysvallat: Oxford Univ. Pr .. ISBN 0-19-503060-5 .
Patrouch, Joseph F. (1974). Isaac Asimovin tieteiskirjallisuus . Kaksipäiväinen. ISBN 0-385-08696-2 .

Viitteet

Ulkoiset linkit

Kuuntele tämä artikkeli ( 49 minuuttia )

Tämä äänitiedosto luotiin tämän artikkelin 28. marraskuuta 2008 päivitetystä versiosta , eikä se kuvaa myöhempää muokkausta.

" Usein kysytyt kysymykset Isaac Asimovista ", AsimovOnline 27. syyskuuta 2004.
Humanoidirobotteja koskevat eettiset näkökohdat: Miksi Asimovin kolme lakia eivät riitä .
Turvallista elämää robottien kanssa, Asimovin lakien ulkopuolella , PhysOrg.com , 22. kesäkuuta 2009.
Turvallisuus ja älykäs konekieli: Tarvitsemmeko robotiikan kolme lakia? , Wien: I-Tech , elokuu 2008.

Languages

In other projects