Inteligencia Artificial representa gran peligro para la humanidad

[explorer]

A mediados de julio se abrió un hilo en el foro de electrónica que trataba sobre el peligro que representan las IA para la humanidad.

El autor del hilo quiso derivar el tema hacia la aplicación de la IA a la electrónica, pero los participantes empezaron a hablar de muchas cosas distintas, muchas de ellas, payasadas.

Yo también metí baza, con aportaciones relacionadas con el tema inicial: los peligros de una IA "desmandada".
#114
#116
#118 - Aplicaciones de la IA
#121 - Ejemplo de IA desbocada: El coleccionista de sellos. Película "Colossus: The Forbin Project", 1970. En plena guerra fría, a los norteamericanos y a los rusos no se les ocurre mejor idea que crear unos superordenadores para gestionar su armamento nuclear.
#125 - El problema del botón de parada. Descripción muy detallada de este problema lógico: no es nada obvio el poner un botón de parada a una máquina/robot/androide equipada con una IA. Se recomienda ver la película "Ex machina" (2015), pero el ejemplo clásico está en "2001. Una odisea del espacio", ya que ilustra muy bien lo que una IA decide hacer al descubrir que la van a apagar mientras que su directiva principal es completar la misión.
#128 - Cuestiones éticas y morales que se están estudiando desde hace años en el terreno de la IA

Es un tema muy amplio y puede llegar a ser muy árido. Para la persona normal de la calle, la IA está detrás de los asistentes de voz; o los recomendadores de noticias o productos; o publicidad dirigida.

¿Opiniones?

[minter]

Una IA empezará a ser inteligente cuando empieze a oler.

Un sonido se puede reproducir. (un audio)
Una imagen se puede representar. (una foto)
El tacto se puede acotar (unos sensores)

Pero... Como decide un sistema Inteligente cuando un olor es placentero o nauseabundo?
¿Se le graban unos patrones?
A mi no me gusta como huele el queso, pero a ron le encanta.
¿Eso se puede meter en un patrón? ¿El programable la reacción a un olor?

La IA no será posible. Podrán "simularla", pero dudo que seamos tan listos como para crear un cerebro tan tonto como el del hombre.

Las Inteligencias se crean de forma empirica, no metiendo unas pautas a seguir.

[explorer]

El que un olor sea placentero o nauseabundo es algo subjetivo, de cada persona. Una vez conocí a una chica que me confesaba su predilección por el olor mezcla de sudor y gasolina (!). Literalmente, perdía la cabeza por el hombre que oliera de esa manera.

Por ejemplo, parte de los componentes de la perfumería actual se basan en docenas de olores individuales, algunos de ellos realmente repulsivos si se huelen por separado, pero al unirse en pequeñas proporciones, dan como resultado un perfume placentero.

De la Wikipedia (Perfume): «Los aceites esenciales son sustancias orgánicas, líquidas aunque algunas veces sólidas, de olor y sabor acres, irritantes e incluso cáusticas».

La industria suele tener una serie de olores "fijos" para crear las líneas de perfumes, pero de la docena de perfumes que sacan al año, a lo mejor triunfa un par de ellos. Y aunque ya existen las narices electrónicas, no deja de ser algo subjetivo.

Como comento en alguno de los enlaces que he puesto, el mayor error que cometemos es darle un sentido antropomorfo a las IA, y no tienen nada que ver con nosotros. No se trata de simular un cerebro humano. Basta con que realice operaciones que haría un humano. Lo de "Inteligencia artificial" no aspira a que un programa o un robot tenga la inteligencia de un ser humano, sino que nos basta que haga una tarea con a) un número muy grande de datos, b) reconocer patrones en información incompleta, c) aprender de lo ocurrido o del entorno, d) ...

Ejemplo real: si una joven estudiante universitaria visita cierto tipo de productos de nuestra tienda, hay un porcentaje muy elevado de probabilidades de que esté embarazada, por lo que obtendremos más éxito de ventas si le enviamos publicidad de productos premamá, como vitaminas o velas aromáticas para el baño.

Otro ejemplo real: si el nivel de suciedad del agua que sale del tambor de la lavadora es bajo, y además el peso del contenido del tambor también lo es, podemos reducir el número de aclarados finales, reducir la temperatura y terminar antes.

Estos dos ejemplos son aplicaciones de la IA actual. Bueno, la lógica difusa que usa la lavadora se considera hoy en día que no es realmente una IA.

Muchas de las aplicaciones de la IA consisten en la grabación de patrones, en efecto. Para ello se suelen utilizar redes neuronales.

[Chema]

Menudo tema! Yo estoy de acuerdo en que el punto de inflexión entre la IA "débil" como la conocemos ahora y la "fuerte" es la autoconciencia. Creo que ese tema se trataba en el libro Gödel, Escher, Bach: un Eterno y Grácil Bucle de Hofstadter. Cuando yo estudiaba, se comentaba que con las técnicas disponibles entonces parecía imposible llegar a una IA fuerte, porque no se puede "programar" en un sistema lógico de reglas. Pero que quizás pudiera "emerger" en un sistema suficientemente complejo capaz de aprender.

Bien, hoy en día tenemos sistemas complejos que pueden aprender excelentemente bien... pero ¿pueden tomar conciencia de su existencia? Aún queda para ello, creo yo.

[Drtad]

Pero, en el fondo, que es la IA? Software o hardware? Por qué si cojemos un zx81 con su z80 y le ampliamos la RAM y desarrollamos una IA para el, seis este una máquina no retro? Ya estoy mezclando hilos yo soy de los que piensa que la IA no depende de una plataforma concreta, si no de estar bien programada, hace eones cuando tenía mi amstrad, descubrí un sordo en basic conversacional que eres pseudo inteligente dependiendo del contexto de la conversación aunque le preguntarás lo mismo en dos conversaciones distintas te respondía de una u otra forma, es eso una IA? Entonces si un software programado en un Vic 20 pasa el test de turing se puede considerar al Vic 20 una IA?

[ron]

Bueno, el ELIZA es la prueba de ello.
En un ZX81 con RAM o en un Vic20 con RAM lo puedes ejecutar ya que está escrito en Basic.

No es exactamente un programa de inteligencia artificial dado lo reducido de su alcance, pero es para que nos hagamos la idea de todo lo que se podría lograr, evidentemente la clave de la IA está absolutamente en el software, el hardware puede ser cualquiera.

[Hergoth]

Pienso que el hardware también influye, por la capacidad y potencia de cálculo. Si logramos una máquina lo suficientemente rápida, unida a un software bien programado, de manera que pueda procesar muchas variables (parametrización del entorno, estado interno de la propia máquina y objetivos), creo que sería más fácil desarrollar una IA potente, que fuera capaz de irse "reprogramando" en tiempo real por sí misma (aprendizaje, cambio de objetivos, ...) Es decir, prácticamente como cualquier "ser vivo".

Aunque la pregunta es, ¿llegaría a tener "conciencia" de sí misma y eso qué conllevaría?

[ron]

Pienso que el hardware también influye, por la capacidad y potencia de cálculo. Si logramos una máquina lo suficientemente rápida, unida a un software bien programado, de manera que pueda procesar muchas variables (parametrización del entorno, estado interno de la propia máquina y objetivos), creo que sería más fácil desarrollar una IA potente, que fuera capaz de irse "reprogramando" en tiempo real por sí misma (aprendizaje, cambio de objetivos, ...) Es decir, prácticamente como cualquier "ser vivo".

Aunque la pregunta es, ¿llegaría a tener "conciencia" de sí misma y eso qué conllevaría?

Claro que si que influye, lo que pasa que no me quería extender más de lo necesario. Tu post añade ese plus sobre el HW, que efectivamente existe.

[gflorez]

Ser consciente de uno mismo es lo que hacemos nosotros con nuestro cuerpo sembrado de multitud de sensores devolviendo información en tiempo real, ¿no?

[Chema]

Me temo que el problema es bastante más complejo que eso. Echa un vistazo en la sección de conciencia en la inteligencia artificial de este artículo de la Wikipedia
https://es.m.wikipedia.org/wiki/Conciencia
Me parece a mí que hace falta mucho estudio solo para empezar a entender las sutilezas de este problema.

[gflorez]

Bueno, partiendo de reset(nacimiento o antes....), lo que si tenemos los humanos es una muy buena potencialidad de aprender, todos nuestros sensores colaboran a ello, digamos durante unos 15 años o más hasta ser adultos y luego durante nuestras vidas. Todo ese tiempo, vemos la realidad desde una perspectiva tan individual, centrada en nosotros mismos, que casi me parece lógico que el sujeto acabe tarde o temprano sintiéndose como un ser consciente de si mismo.

[Hergoth]

Bueno, partiendo de reset(nacimiento o antes....), lo que si tenemos los humanos es una muy buena potencialidad de aprender, todos nuestros sensores colaboran a ello, digamos durante unos 15 años o más hasta ser adultos y luego durante nuestras vidas. Todo ese tiempo, vemos la realidad desde una perspectiva tan individual, centrada en nosotros mismos, que casi me parece lógico que el sujeto acabe tarde o temprano sintiéndose como un ser consciente de si mismo.

Creo que eso es uno de los puntos importantes: ¿acaso el ser humano no va cambiando su percepción del entorno y de sí mismo a medida que va envejeciendo? Tenemos un micro analógico completamente distribuido (cerebro y sistema nervioso) con más circuitería, y un software generalmente bien programado y optimizado para recabar cantidades ingentes de datos, tanto externos como internos.

[gflorez]

Eso de "generalmente bien programado", es muy bueno y abre la discusión a otras trampas mentales que padecemos, como el sectarismo, la envidia, la locura o la retrocomputación, entre muchas más.

Lo que se suele llamar EL MAL, serían errores de nuestra programación, que a veces provoca que los humanos vayan contra si mismos, contra otros individuos o cosas, contra colectivos, o los mas audaces contra la humanidad entera....

Yo me pregunto, ¿estarán nuestros hijos y creaciones a salvo de nuestros errores?

[explorer]

Uno de los temas actuales de la IA es el "Machine Learning" (Aprendizaje automático), la facultad por la que una IA "aprende" de las situaciones pasadas.

En el mundo de los videojuegos, por ejemplo, una de las técnicas que se suelen emplear es la Q-learning, por la que una IA aprende a recorrer un laberinto o un recorrido cada vez en menos tiempo.

[ron]

Hace 30 años o más, que no me acuerdo de acordarme de los lenguajes LISP y ALGOL.

¿ Acabaron en algo serio ?

[gflorez]

Sabes que el Enterprise y su emulador tienen una Rom de Lisp, ¿verdad? Y aquí el manual.