Valor en salud
Valor en salud
Valor en salud

Las Leyes de Asimov y la Inteligencia Artificial

Las Leyes de Asimov y la Inteligencia Artificial

Jaume Raventós
Gerente del Consorci Mar Parc de Salut (Hospital del Mar)   /   06-02-2024   /   0 COMENTARIOS   /  A+ | a-
Tengo que reconocer que he sido, y soy, fan absoluto del bioquímico y gran escritor de ciencia ficción, así como divulgador científico, Isaac Asimov. En mi adolescencia ocupé muchas horas leyendo, devorando, de hecho, todas las historias que escribía, cosa que igual ahora explica mi orientación hacia todo lo que sea la innovación y el construir futuros.

Estos últimos meses de forma casi involuntaria y a veces un tanto compulsiva me he visto envuelto en la IA, porque se habla, se estudia e investiga, se opina, ahora hasta se empieza a regular, y creo que estamos absolutamente inundados por tsunamis de información sobre la Inteligencia Artificial, así que en este blog voy a intentar dar una reflexión sobre cómo la IA podría estar dentro de las leyes de Asimov.

Para ello, primero vamos a recordarlas, la Primera Ley: un robot no hará daño a un ser humano, ni por inacción permitirá que un ser humano sufra daño. La Segunda Ley: “un robot debe cumplir las órdenes dadas por los seres humanos, a excepción de aquellas que entren en conflicto con la Primera Ley”. La Tercera Ley: “un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o segunda ley. En el Universo Asimov, una vez los robots gobernaran la humanidad, se creó la Ley Cero, “un robot no puede dañar a la humanidad o, por inacción, permitir que la humanidad sufra daños”.

Estamos ante la creación de un código “moral”, ético, para la utilización y la vida con robots y humanos. ¿No es eso uno de los temas que más debate genera sobre la IA? De hecho, ¿cómo iban a funcionar los robots si no es con una IA incorporada? Podemos ver, una vez más, como ya Asimov en 1940 expresaba, en sus conversaciones con otros escritores, la necesidad de que hubiese unas Leyes que “protegieran” a los humanos de la tecnología. Se detectaba ya la necesidad de que la complejidad inherente al uso de la tecnología debía de estar bajo algún sistema confiable y sin fallos. La Leyes, de hecho, han sido fuente de inspiración para la creación de sistemas de IA y robótica seguros y confiables, pero, como siempre, también han tenido detractores y el debate sigue existiendo.

Hay opiniones de que estas Leyes funcionaron muy bien en la literatura y como guía de la moral, pero son claramente insuficientes para ser programadas actualmente en un robot. Eso es porque la “programación ética” de obedecer siempre las instrucciones humanas y de protegerse siempre puede llegar a ser contradictoria, ya que el robot puede encontrarse con un dueño con problemas mentales severos que le ordene cosas inmorales. Hay, por ello, la necesidad de establecer e impulsar debates éticos ante el uso de la IA en robótica.


Podemos también ver como las Leyes Asimov seguramente han inspirado el código ético para los ingenieros y los comités de investigación relacionados con la robótica. Se establecen algunos principios como:

- Beneficencia, las máquinas deben actuar a favor del ser humano.
- Principio de no perjuicio o no hacer daño. Los robots no pueden de ninguna forma causar daño a las personas.
- Principio de precaución. Los investigadores deben de prever y responder por los posibles impactos y daños ambientales.
- Conservación de la privacidad.

Actualmente asistimos a un debate y a divergencias clarísimas, en algunos casos, entre los diferentes ámbitos de conocimiento (derecho, ciencia y tecnología) sobre la normativa y la regulación de la IA. Algunos especialistas en IA y robótica han creado sus propias Leyes, inspirados por Asimov, y que pretenden con ellas tener un
marco ético para el uso de la tecnología.

Realmente, el interés general sobre la IA, y sobre la robótica, tal como comentaba al principio del artículo, aumenta en función del incremento en el desarrollo de la tecnología, que actualmente es muy rápido. Aunque, en mi opinión, no tanto como vaticinan algunos, que ya ven este año 2024 como el top de la IA, de hecho, algunos autores ponen la fecha para la eclosión de la IA generativa en el 2029, fecha que me parece más razonable, sobre todo, dada la lentitud en la transferencia de la tecnología que tenemos en sectores como el de la salud.

Isaac Asimov ha sido un referente, un inspirador precoz, un humanista de la tecnología, para los desarrollos de la IA y su marco ético, sirva esto como mi reconocimiento al escritor y científico.
No hay comentarios

Haga un comentario

Simple catpcha image
Top