jb7 (es)
EL ROBOT JB7
Las tres leyes de la Robótica (según Isaac Asimov)
1. Un robot no puede hacer daño a un ser humano o, por inacción, permitir que un ser humano sufra daño.
2. Un robot debe obedecer las órdenes dadas por los seres humanos, excepto si estas órdenes entrasen en conflicto con la Primera Ley.
3. Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la Primera o la Segunda Ley.
El primer robot fiable que salió de los Talleres de Androides y Mecanismos Cibernéticos, Inc. fue el X7. Antes se habían hecho seis pruebas, que no dieron el resultado apetecido.
No era fácil trasladarlas a formulaciones matemáticas las Tres Leyes de Robótica que se habían enunciado literalmente muchos años atrás. El primer X1 fue apenas un brazo mecánico, controlado por un chip. Lo pusieron a la salida del Alto Horno, para que golpeara el hierro al rojo. Pero no funcionó. Primero, porque sus niveles de temperatura le indicaron que era peligroso para su integridad según la Tercera Ley. Segundo, porque en la pantalla de la monitorización apareció el siguiente mensaje: ¿Y si eso es un Hombre, con una fuerte insolación?. Tampoco era fácil aclararle, con algoritmos, lo que era un Ser Humano.
El modelo X2, que salió un año después tenía dos brazos articulados sobre una especie de cajón con ruedas y motor, llevaba una descripción física de lo que era una persona. Lo quisieron probar con motivo de un incendio en una tienda de modas, pues era peligroso para los bomberos acceder hasta donde estaban los clientes y el personal que se había quedado dentro. Pero el robot volvió a fracasar, porque lo primero que sacó fueron los maniquíes de los escaparates, mientras las personas que estaban más adentro morían asfixiadas por el humo y quemadas por las llamas.
El siguiente modelo, el X3, ya sabía distinguir entre personas vivas y objetos inertes con forma de ser humano. Para ello se le habían incorporado unos detectores de actividad cerebral. En vez de ruedas le colocaron una especie de orugas, así como diversas herramientas. Lo probaron con motivo del derrumbe de una casa, puesto que era peligroso para los zapadores meterse bajo los escombros. Le pidieron que sacara primero a los supervivientes que encontrara y en último lugar a las víctimas mortales. Volvió a fallar, porque al no haber vivos, sacó a los muertos, pero troceándolos para poder extraerlos, ante la consternación y grandes protestas de los familiares.
Se hizo un nuevo modelo, el X4, con instrucciones más precisas Se le dio apariencia humana y se le pusieron piernas, aunque su caminar no dejaba de ser muy peculiar. Lo colocaron a las puertas de las oficinas de Androides y Mecanismos Cibernéticos, Inc., como reclamo. A los pocos días tuvieron que retirarlo, porque una noche que entraron unos ladrones, les ayudó cuando ellos así se lo pidieron, en virtud de la Primera Ley.
El X5, que fue el siguiente, ya distinguía a los ladrones de las personas honradas, por lo que una joyería de fama se avino a probarlo como guardia nocturno. Los atracadores que quisieron entrar una noche no se pudieron llevar nada, pero el destrozo que organizó el robot, en su persecución, rompiendo tantas vitrinas y objetos de arte como era físicamente posible fue tal, que lo tuvieron que descartar.
El X6 casi fue perfecto. Reconocía a las personas por la vista, por el oído o por el tacto. Lo que no tenía era olfato. Por ese motivo, el Ayuntamiento se avino a probarlo para que limpiara las cloacas de la ciudad, atascadas de porquería, cuyos insalubres olores habían motivado el rechazo de los operarios. Se fabricaron seis robots, que hicieron el trabajo a la perfección y dejaron las cloacas relucientes. El propio Alcalde, que las inspeccionó en persona, quedó muy satisfecho. Pero a los pocos días empezaron los problemas. Los robots habían cerrado las bajantes, para que no se volvieran a ensuciar las cloacas. Los vecinos se dieron cuenta cuando sus inodoros empezaron a desbordarse. Las protestas fueron multitudinarias y el X6 fue dejado de lado.
Androides y Mecanismos Cibernéticos, Inc., había invertido ya demasiado dinero para volverse atrás. El Director exigió a sus técnicos que lograran el robot perfecto y les dio de plazo otro año más. Éstos se reunieron y repasaron todo lo conseguido hasta la fecha. Se habían escrito miles de líneas de código. Se habían ido incorporando millones de sentencias if... then..., y case, para plantear y resolver las distintas alternativas. El sistema neuronal del robot ya reconocía a los humanos. Sabía si estaban vivos o no y en este último caso los trababa de diferente forma que a las cosas inanimadas. También reconocía si eran gente normal o su comportamiento iba de lo ambiguo a lo claramente delictivo. Ya no tenía tanto temor por sí mismo y al tiempo era delicado en el trato cuando era necesario. Pero... faltaba saber si estaba preparado para defender a la Humanidad.
El X7 fue dotado de un cuerpo con un revestimiento que imitaba perfectamente la piel humana y que cubría sus mecanismos. Se le incorporó un complejo sistema de comunicaciones inalámbricas y una pistola paralizante. Se le vistió con un smoking negro, camisa blanca y corbata de pajarita. Por último, un Monitor lo acompañó a la Gran Fiesta de Gala, para la prueba final. Cuando entraron en el salón, ya abarrotado de gente, un camarero les ofreció licores. El robot, entrenado perfectamente, tomó una copa con delicadeza. El Monitor se fijó en la botella. ¡Ajá...! Era de un conocido güisqui. Se volvió al robot y en voz baja, le dijo...
—A partir de ahora te llamarás JB...7, como el James Bond 007 ese, pero... —rió— ¡Sin licencia para matar!
X7, ya JB7, se comportó con distinción. Era capaz de saludar a los caballeros y besar la mano a las damas. Incluso invitó a una a bailar un vals.
—¿Y usted, cómo se llama? —le preguntó ella, con curiosidad.
—Mi nombre es... Bond, James Bond —contestó con una bien modulada voz de barítono.
Desde su butaca, mientras paladeaba la bebida, el Monitor no le perdía de vista, mientras su rostro mostraba complacencia.
La dama entornó los ojos y con la voz más susurrante que pudo, le dijo a su acompañante...
—¡Quisiera que el tiempo se me detuviera!
Y claro, él la paralizó con la pistola, en virtud de la Segunda Ley, ya que eso sólo duraría unos instantes y no le haría un daño irreversible, por lo que tampoco transigía a la Primera ley. De esa forma, también el robot JB7 volvió a fallar.
UN JB7... ¿DEFINITIVO?
El fracaso del robot JB7 sumió en el abatimiento a la cúspide de Androides y Mecanismos Cibernéticos, Inc. y, en particular, a su Director General. Los técnicos le habían garantizado que funcionaría, pero las Tres Leyes de la Robótica, en las que tanto confiaban, no habían dado el resultado apetecido. Algo de su enunciado teórico, o no se correspondía con la realidad, o no había podido ser trasladado a la materialidad de los circuitos electrónicos.
—¿Qué será lo que ha fallado? —se preguntaba una y otra vez, tratando de descubrir un resquicio que le diera la respuesta. La literalidad de la petición de la dama que había bailado con el robot —bueno, con JB7— había sido atendida por éste, sin violar ninguna de las Tres Leyes. Pero el resultado había sido socialmente inaceptable. Y los robots deberían poder tener un comportamiento interactivo con los seres humanos que no causara desazón o rechazo en éstos, si es que su Empresa quería tener éxito.
—Por favor, convoque para mañana una reunión de todo el staff consultivo y de todos los directores de área —ordenó a su secretaria personal, dispuesto a enfrentar, de una vez, la gravedad del problema.
Al día siguiente, todos los convocados estaban ya sentados en el gran salón de reuniones, esperando impacientes la llegada del Director General. De sobra sabían de qué iba la asamblea, sin necesidad de que al convocarles se les hubiera manifestado explícitamente el orden del día, pues el nuevo fracaso del robot experimental era la comidilla de toda la compañía.
A la hora prevista hizo entrada el Director, acompañado de su secretaria, quien tomaría nota de todo lo que se tratara. Los asistentes se levantaron al punto y esperaron a que el Director se sentara, para hacerlo lo mismo.
—Señores, ya saben por qué estamos aquí reunidos. El presente, y no digo el futuro de la Compañía, peligra. Y, consecuentemente, el puesto de trabajo de todos ustedes —comenzó diciendo, con la voz más grave que pudo poner.
—O seguimos, o cerramos. Pero si seguimos, no toleraré ni un fracaso más —añadió, mientras que con su dedo índice señaló, en un movimiento circular, a todos los presentes.
Un gran silencio se hizo durante unos momentos, que parecieron eternos. El Director parecía esperar alguna sugerencia, antes de tomar una determinación. El Jefe del Proyecto X, y de todos los robots que se habían hecho con esa denominación inicial, se vio obligado a abrir el debate.
—Señor, en lo que respecta al diseño y fabricación del robot X7 —no se atrevía a llamarlo ya JB7— he revisado personalmente todo el proceso y no he detectado ningún fallo.
El Director miró para él sin proferir palabra. Evidentemente, algún fallo sí que había habido. Quizá no fuera de fabricación, pero...
El silencio continuó, mientras ninguno de los otros directores de área se atrevían a tomar la palabra. Ni el de Materiales, ni el de Instrumentación, ni el de Circuitos Lógicos...
De pronto, uno se levantó. Era el de Comportamiento, una nueva área que se había creado después del fracaso del robot X1.
—Señor...
—¿Sí, Roberts?
Esto... Creo que el fallo puede venir de... más atrás.
—¿Cómo de más atrás?
—Quiero decir... de las propias Tres Leyes —se atrevió a sugerir, después de unos instantes de vacilación.
Todos los presentes se volvieron hacia él, con el asombro en sus rostros. Aquello casi era una herejía. ¿Dudar de las Tres Leyes? ¡Imposible!
—¿Me quiere usted decir que las Tres Leyes no son perfectas?
—Oh... Sí lo son. Pero no son completas.
El Jefe del Proyecto se levantó inmediatamente para aclarar.
—¡Claro que son completas! Incluso hemos tenido en cuenta la Ley 0, enunciada después de las anteriores y que dice así: Un robot no puede causar daño a la humanidad o, por inacción, permitir que la humanidad sufra daño.
—No, no me refiero a esa, que también la conocía —aclaró el Jefe de la nueva área de Comportamiento.
—Entonces, ¿A qué se refiere? —quiso saber el anterior, con aire un poco molesto.
—Pues... a las sutilezas del lenguaje humano, que no se puede tomar literalmente. Los robots —aclaró a continuación— deberían poder distinguir lo que llamamos el lenguaje figurado, si es que queremos que puedan convivir con nosotros.
El silencio se volvió a adueñar del salón de reuniones, mientras daba la sensación de que el Jefe de Comportamiento se ruborizaba por lo dicho. Pero el Director General tomó entonces la palabra.
—Es lo más sensato que he oído hasta ahora —sentenció—. ¿Y cómo podemos llevar eso a la práctica? —continuó, dirigiéndose a todos en general. Pero aunque todos se miraron entre sí, ninguno se levantó para dar una opinión.
Al poco, Roberts alzó tímidamente el brazo.
—Sí, hable... —le indicó el Director General.
—Pues... quizá poniendo antes una nueva Ley, la -1, por ejemplo.
—¿Una nueva Ley? ¿Y cómo la expresaría?
El joven Jefe dudó unos instantes. Todas las miradas estaban fijas en él y se sintió un poco acobardado. Carraspeó y se decidió por fin.
—Este... Ningún robot pasará el control si no sabe distinguir entre literalidad e intencionalidad del lenguaje humano.
El Jefe de Circuitos Lógicos se levantó enseguida y le espetó.
—¿Y cómo piensa traducir eso al lenguaje informático?
—Yo no soy experto en eso. Igual que hicieron ustedes con las Tres Leyes, que no dejan de ser una expresión literaria...
Aquello parecía tener visos de realidad, se dijo el Director General. Y una vez más, quizá la última, apostó por incorporar esa mejora a sus robots.
—Bien... Les doy tres meses de plazo. Ni un día más. Se levanta la sesión.
Cuando casi todos hubieron salido, el Jefe de Circuitos Lógicos se acercó a Robert y le preguntó.
—¿Cómo cree usted que podemos encarar el problema?
—Ya le dije que no soy un experto en eso... pero se me ocurre que incorporando a los robots una base de datos de equivalencias, con las frases habituales que pueden tener doble sentido. Por ejemplo, ¡Vete a freír espárragos! igual a ¡Márchate!, o esta otra Así sabrá lo que vale un peine igual Así sabrá lo que cuestan las cosas.
El Jefe de Circuitos Lógicos se quedó pensativo. Sí, podría ser...
—Puede ser un punto de partida, aunque su desarrollo probablemente sea mucho más complejo. Lo voy a estudiar —contestó por fin.
Antes de los tres meses de plazo, un nuevo JB7 salió de los talleres, listo y comprobado. Le habían incorporado una base de datos con más de 12.000 frases hechas, para que entendiera su doble sentido. Pero el director no las tenía todas consigo. Quería asegurarse antes de que el nuevo robot saliera a la calle, había que hacer pruebas de campo,, no bastaban con las del laboratorio.
—¿Mrs. Johana? —preguntó por teléfono, llamando a la anciana viuda del que había sido el primer Director de la Compañía.
—¿Sí?
—Soy Herbert, el Director de Androides y...
—Ah, dígame usted.
—Verá... Queremos probar un nuevo robot, en un ambiente familiar... ¿Tendría usted inconveniente en utilizarlo durante una temporada?
—Con mucho gusto. Ya sabe que el pobre Mathius siempre me consultaba sobre sus proyectos...
—Por eso se lo he propuesto.
—Pues cuando quiera me lo envía.
Al cabo de quince días, el Director General la volvió a llamar.
—Mrs. Johana, ¿Qué tal el robot?
—Muy bien... Me hace todos los encargos, me lava, plancha, cocina...
—¡Ah! Me alegro...
—Sólo le he encontrado algunos peros...
—¿Sí? —preguntó el Director, preocupándose un poco.
—No es muy importante, creo... pero siempre que compro en el mercado espárragos trigueros y le mando freírlos... ¡Se marcha de casa!
LA ERA DE LOS ROBOTS
Llevaron al robot X7 —o JB7 como lo denominaron transitoriamente— al museo de Ciencias Cibernéticas, pues ya no se podía mejorar. Su complejo cerebro formado por nanotransistores no podía competir con los cerebros positrónicos que había desarrollado la U. S. Robots, la principal empresa de hombres mecánicos, el mayor competidor de Androides y Mecanismos Cibernéticos, Inc.
El actual Director General de la ésta, Herbert Simons, decidió cerrar la División de Robóts Autónomos y centrarse en la fabricación de brazos cibernéticos, que tan buen resultado le estaban dando en las industrias automovilísticas.
—Margaret, tráigame la ficha de Mr. Robert, el que fue Jefe del Departamento de Comportamiento —le dijo de pronto un día a su secretaria personal.
Al cabo de unos instantes, la así interpelada le entregó a su Jefe una carpeta amarilla, en la que se encontraban los datos que aquél había solicitado.
—Vamos a ver... Sí, aquí está —dijo, más para sí, el actual Director.
—459 67 11... —musitó, sin apenas mover los labios, mientras iba marcando el número telefónico de Mr. Roberts.
—¡Diga! —oyó que contestaban del otro lado.
—Soy Herbert, de Androides y...
—¡Ah!. Sí, dígame.
—¿Está usted trabajando ya?
—Sí, me aceptaron en U. S. Robots y...
—Vaya... ¿Con la competencia, eh?
—Este... Estoy en el Departamento de Robopsicología...
—¡Ah!. ¿Y se encuentra a gusto?
—Este... Estoy contento con mi trabajo.
—Ejem... ¿Podría venir a verme algún día?
—Con mucho gusto.
—Bien... Le espero, entonces. Gracias.
A los pocos días, al término de su jornada de trabajo, Mr. Roberts se presentó en las oficinas de Androides y Mecanismos Cibernéticos, Inc., aclarando al conserje que le había citado el Director.
—Un momento —dijo aquél, mientras marcaba el número del teléfono interior de la secretaria del Jefe.
—Aquí está Mr. Roberts, que dice...
—Sí, ya sé. Dígale que suba.
Cuanto entró en el despacho de Dirección, Mr. Roberts estrechó la mano que le ofrecía su antiguo Jefe y se sentó enfrente, a una indicación de aquél.
—¿Qué tal por su trabajo? —le preguntó aquél.
—Muy bien. Estoy muy contento.
—Me alegro. ¿Sabe...? Me dio pena cerrar la División de Robots Autónomos y despedir al personal, pero no tuve otro remedio...
—Lo comprendo. Después de...
Se quedaron los dos unos instantes en silencio, mientras el Director trazaba su estrategia.
—Lo que no comprendo es cómo dónde está usted ahora, han podido resolver el problema... —comenzó diciendo.
—Este... Por lo que sé, eso viene de hace muchos años.
—¿Sí?
—Verá... ¿Usted sabe cómo funciona un cerebro humano?
—Tengo una idea... —comentó el Director, sin comprometerse.
—El cerebro está compuesto de neuronas...
—Sí. Eso ya lo sé —exclamo Mr. Herbert, con aire se suficiencia.
—Y estas neuronas, que son células diferenciadas, son capaces de recibir una excitación eléctrica por las dendritas y reenviarla por el axón.
—Claro. Eso lo sabe hasta un...
—El estado de reposo de la neurona alcanza los 55 milivoltios... —prosiguió Mr. Roberts, sin hacer caso de su antiguo Jefe.
—Sólo cuando alcanza los 70 milivoltios —continuó diciendo— es cuando trasmite dicho potencial a la neurona siguiente.
Ahora Mr. Herbert afinó el oído. Algo sabía, pero...
—Al principio, cuando el niño nace, las neuronas no tienen ninguna información conceptual previa. Sólo repitiendo procesos, como mover sus manos o pies miles de veces, llega a establecer una correlación.
Mr. Herbert asintió con la cabeza, más que nada para animar a su visitante a que continuara.
—De esa forma, la experiencia es la base fundamental, insustituible, del aprendizaje —terminó de exponer éste.
Nuevamente se quedaron los dos en silencio, mientras el Jefe meditaba sobre aquello.
—¿Y qué me quiere usted decir con eso? —preguntó a continuación.
—Este... Qué hace muchos años, como le dije antes, se fabricó el primer cerebro positrónico. Y el único —aclaró Roberts, con aire de triunfo.
—¿CÓMO? ¿El único? No entiendo...
—Verá... Se fabricó el primero, a base de una cristalización de platino e iridio... conseguida en el laboratorio. Normalmente lo hacen en sistema cúbico. Pero esa vez y no se sabe por qué, se cristalizó en hexágonos, en forma de pequeñísimos cristales Es decir, una variación politrópica no registrada. Curiosamente, el paso de la corriente eléctrica de un cristal a otro no se producía siempre, sino bajo ciertas circunstancias, que podríamos asociar a un aprendizaje.
—¿Quiere decir que los cristales aprendían? —exclamó un asombrado Mr. Herbert.
—No es eso... —contestó Roberts, medio sonriéndose.
—Dije que se podría asociar a un aprendizaje, es decir... la repetición del paso de la corriente facilitaba que se trazara algo parecido a lo que constituye una red neuronal.
Roberts esperó a que su Jefe asimilara esto, para luego continuar.
—Se fabricó una gran cantidad, por polimerización, una vez que se comprobó esa particularidad... y luego, cuando se observó que ciertos enlaces se mantenían estables... pues se separaron pequeñas porciones del bloque principal... que son ahora los llamados cerebros positrónicos.
—¿Quiere usted decir que en realidad, el cerebro de los robots es uno sólo?
—Digo que son partes del original... Lo mismo que ocurre con las células que se reproducen desdoblándose.
—La cristalización —añadió—no se ha detenido. Se fomenta a medida que se necesita más material cerebral, que ya tiene la experiencia de años y años.
Mr. Herbert empezó a ver la luz en su cerebro...
—Entonces... ¿Se podría iniciar un proceso similar?
Ahora Mr. Roberts se rió abiertamente.
—Imposible. El inicio de la primera cristalización se debió a un error... de cuyo proceso, como le dije, no se sabe cómo ocurrió. No se ha podido volver a reproducir. Por esa razón, el bloque inicial se conserva como oro en paño.
—¿Y entonces no se sabe que fue lo que falló? —insistió el Jefe.
—Según dicen los químicos, no. Como comprenderá, de esas particularidades no sé nada. Lo mío es el Comportamiento.
—Sí, ya sé...
Mr. Herbert siguió pensando... Debía de haber algún modo...
—¿Y de un cerebro robótico individual, no se puede hacer una polimeración, como usted dice?
Mr Roberts volvió a reír, abiertamente.
—No... Tampoco es posible.
—¿Y cómo lo sabe?
—Este... Porque ya se ha intentado.
—Nuestros propios técnicos —añadió, al considerarse ya un trabajador de la nueva empresa — propusieron esa solución, para no tener que depender del cuerpo matriz, pero... según las pruebas que se hicieron, no guardaba la experiencia.
—¿Y eso, por qué? —quiso saber Mr. Herbert.
—Pues... y ahí entra mi especialidad... Las nuevas polimerizaciones, que químicamente se han conseguido... no reproducen los trazos neuronales.
—¿Tiene eso alguna explicación...en su Especialidad?
—Claro... Pasa lo mismo que de padres a hijos... Lo que saben los padres no lo recuerdan los hijos.
—Pero... ¿Y por qué del bloque matriz, sí?
—Pues... porque se separa una parte, que ya tiene la experiencia. Es por lo que le dije ante de la mitosis, que produce células completamente idénticas. Vamos, que si fueran personas, mantendrían todos los recuerdos.
—¿Y, separando partes de un cerebro positrónico individual, de los que instalan en los robots, no se consigue igual?
—Dañaría usted el cerebro robótico y lo haría inservible, sin conseguir nada.
—No acabo de entenderlo.
Mr. Roberts se revolvió en su asiento. Quizá estaba dando demasiada información del secreto mejor guardado de su nueva empresa. Decidió terminar aquella conversación, con una explicación definitiva.
—Mire... Las relaciones neuronales de los robots, por llamarlas de alguna manera, están establecidas en la matriz original y se corresponden con lo que se han llamado las Tres Leyes. Todo lo demás, hay que enseñárselo, según la aplicación que se les vaya a dar.
—¿Y...?
—Es algo similar a los humanos, que venimos ya con una sensación grabada de gusto-disgusto. Eso es lo que nos lleva, nada más nacer, a lloriquear cuando tenemos hambre o a que nos cambien el pañal cuando lo tenemos húmedo, sin que realmente aún tengamos conciencia de todo ello.
Mr. Herbert se quedó pensativo. Sí, parece que todo eso encajaba. O sea que su empresa no podía, definitivamente, hacer robots inteligentes. Sólo la competencia, es decir, U. S. Robots lo había conseguido. Y todo, por un error químico, ocurrido un montón de años antes...
Mirando de reojo para la foto de su esposa, que tenía encima de la mesa de despacho, le pareció que ésta iniciaba, nuevamente, un gesto de triunfo. Androides y Mecanismos Cibernéticos, Inc., a pesar de su nombre tan explícito, no participaría nunca de la Era de los Robots.