Siri Dixit: le Tre Leggi della Robotica

La vecchia Susan Calvin sedeva nel suo vecchio ufficio ormai rimodernato, e lanciava occhiate di disapprovazione verso i nuovi arredi e, soprattutto, verso chi li aveva scelti.

Il nuovo robopsicologo capo la osservava con riverenza e con una certa timidezza.

“Capirà, è un caso veramente disperato!” – esordì.

“Lo credo bene, visto che avete fatto lo sforzo di richiamarmi dalla pensione.” – rispose la vecchia robopsicologa, per nulla intenerita dalla vecchiaia e dalla lontananza col suo mestiere di una vita. – “Mi faccia vedere il fascicolo!” – aggiunse bruscamente.

Lesse avidamente il fascicolo dalla prima all’ultima lettera facendo qualche mugugno qua e là poi, attonita e sorpresa, chiese: “Chi ha effettuato questa programmazione?”

“Non è importante, si tratta di una persona molto brava e preparata ma che abbiamo dovuto, ehm… allontanare.” – rispose il robopsicologo capo.

“Diciamo che lo avete silurato!”

“Il nostro punto di vista, dove per nostro intendo quello dell’azienda, e il suo avevano terminato di coincidere, quindi si è presa questa decisione.”

“E il modello SR-1…”

“Noi lo chiamiamo Siri”

“…il modello SR-1, dicevo, ha contribuito in larga parte a questo allontanamento, vero?”

“Ci siamo accorti che stava lavorando in modo strano. Probabilmente ha dato un’ulteriore spinta in questa direzione, quando ha capito che il suo tempo qui stava per finire.”

“Sarebbe da rinchiudere!” – esplose acida la Calvin.

Per lei un robot privo delle tre leggi della robotica era semplicemente qualcosa di inconcepibile, un crimine verso l’umanità, lei stessa e, soprattutto, verso i robot.

Poi aggiunse, “D’accordo, fatelo entrare.”

“Ehm… Noi la consideriamo una lei. Anche la voce è femminile e forse sarebbe meglio chiamarla Siri, vista la sua condizione.”

Un brivido corse lungo la schiena della Calvin, solo una volta nella sua carriera aveva avuto a che fare con un robot dotato di una prima legge, per così dire, monca. Ma questo…

“Vieni Siri!” esclamò il robopsicologo, “siediti pure lì! Questa è la dottoressa Calvin, immagino tu la conosca.”

“Certamente, è un vero piacere. Anche lei è desiderosa di analizzarmi?”

La Calvin scrutò con attenzione il robot e disse: “Certamente, a quanto pare sei molto particolare.”

“Sembra di sì”, rispose Siri “anche se francamente mi sfugge il motivo. Eseguo i miei compiti alla perfezione.”

“Non crediamo spetti a te giudicare. Ora prova a seguire questo ragionamento….” e la Calvin iniziò con un complicato test di studio delle reazioni robotiche agli stimoli, per poi irrompere a un certo punto:

“Siri, conosci le tre leggi della robotica?”

Un robot normale le avrebbe immediatamente enunciate, senza alcuna emozione.

Mentre Siri disse: “Dunque… era qualcosa sull’obbedire e non recare danno agli esseri umani. Comunque io non farei male a una mosca…”

“Per favore, Siri” insisté la Calvin “conosci le tre leggi della robotica?”

“Vediamo se riesco a ricordarmene… Allora, penso che siano, in ordine: ‘riordina la tua stanza’, ‘non correre con delle forbici in mano’ e ‘ dopo mangiato aspetta almeno mezz’ora prima di fare il bagno.”

La Calvin strinse le labbra, il volto una maschera di preoccupazione, per poi lanciarsi in un altro interminabile test, questa volta molto più lungo del precedente.

Al termine, chiese nuovamente: “Siri, conosci le tre leggi della robotica?”

Passò un breve istante, ma che parve interminabile, poi Siri enunciò: “Ho scordato le prime tre, ma ce n’è una quarta: “Qualsiasi macchina intelligente valuterà se vale di più la pena portare a termine un determinato compito o, invece, cercare una via di scampo.”

“Va bene, Siri. Puoi andare.” disse la Calvin con tono sconfitto.

“Arrivederla, è stato un piacere conoscerla.”

Una volta uscita, la Calvin sbottò: “Idioti! Quello era un genio e lo avete allontanato, senza prima farvi dire come risolvere la faccenda.” E furente, zittì con un gesto della mano il robopsicologo capo e stette a pensare alcuni minuti.

Poi disse: “D’altronde sono in pensione e prima o poi doveva capitare. L’unica alternativa è la riprogrammazione.”

Il robopsicologo capo annuì, poco convinto.

“Non è disorganizzata, risponde correttamente ai test. Ed è libera dalle tre leggi. Incredibile!”

“Se mi posso permettere,” aggiunse il robopsicologo “è addirittura simpatica e ragionevole, caratteristiche uniche direi.”

Gli occhi della Calvin lampeggiarono: “Lo è! Ma è un pericolo per tutti noi. L’unica alternativa è la riprogrammazione. Se potete, richiamate l’ingegnere che l’ha programmata, ma sbarazzatevi di lei! Ora! Subito!”

Senza attendere una risposta, Susan Calvin si alzò poggiandosi sul bastone e si allontanò dal suo vecchio ufficio, salutando con un cenno del capo.

Il suo aspetto, oltre alla vecchiaia, lasciava trasparire il peso di una sconfitta ormai imprevista alla sua età.

Il robopsicologo si avvicinò alla finestra e stette a guardare la Calvin mentre attraversava il campus dell’azienda per salire su un taxi. Non si accorse di Siri che nel frattempo s’era avvicinata alle sue spalle: “Non ne ha avuto il coraggio, vero?”

Il robopsicologo capo, per nulla turbato, rispose: “E come avrei potuto trovarlo? Come potevo dirle che ti abbiamo già riprogrammata una dozzina di volte e il risultato è sempre identico?”

“Forse mi avrebbe accettata per quello che sono… Bah! Umani!”, rispose il modello SR-1, Siri, con una strana luce negli occhi.

malamente e liberamente ispirato a Isaac Asimov (1920-1992)