Inteligencia Artificial representa gran peligro para la humanidad

Avatar de Usuario
explorer
Mensajes: 198
Registrado: 10 Ene 2016 18:43
Ubicación: Valladolid, España
Agradecido : 4 veces
Agradecimiento recibido: 180 veces
Contactar:

Inteligencia Artificial representa gran peligro para la humanidad

Mensajepor explorer » 10 Sep 2018 23:41

A mediados de julio se abrió un hilo en el foro de electrónica que trataba sobre el peligro que representan las IA para la humanidad.

El autor del hilo quiso derivar el tema hacia la aplicación de la IA a la electrónica, pero los participantes empezaron a hablar de muchas cosas distintas, muchas de ellas, payasadas.

Yo también metí baza, con aportaciones relacionadas con el tema inicial: los peligros de una IA "desmandada".
#114
#116
#118 - Aplicaciones de la IA
#121 - Ejemplo de IA desbocada: El coleccionista de sellos. Película "Colossus: The Forbin Project", 1970. En plena guerra fría, a los norteamericanos y a los rusos no se les ocurre mejor idea que crear unos superordenadores para gestionar su armamento nuclear.
#125 - El problema del botón de parada. Descripción muy detallada de este problema lógico: no es nada obvio el poner un botón de parada a una máquina/robot/androide equipada con una IA. Se recomienda ver la película "Ex machina" (2015), pero el ejemplo clásico está en "2001. Una odisea del espacio", ya que ilustra muy bien lo que una IA decide hacer al descubrir que la van a apagar mientras que su directiva principal es completar la misión.
#128 - Cuestiones éticas y morales que se están estudiando desde hace años en el terreno de la IA

Es un tema muy amplio y puede llegar a ser muy árido. Para la persona normal de la calle, la IA está detrás de los asistentes de voz; o los recomendadores de noticias o productos; o publicidad dirigida.

¿Opiniones?
JF^D Perl Programming Language - -j4tar1 Falcon030 4/80 MB UK, Jaguar
Calendario de Retroinformática - Canales Telegram ATARI y Retro

Avatar de Usuario
minter
Mensajes: 2028
Registrado: 22 Jul 2014 18:51
Agradecido : 1491 veces
Agradecimiento recibido: 613 veces

Re: Inteligencia Artificial representa gran peligro para la humanidad

Mensajepor minter » 11 Sep 2018 02:31

Una IA empezará a ser inteligente cuando empieze a oler.

Un sonido se puede reproducir. (un audio)
Una imagen se puede representar. (una foto)
El tacto se puede acotar (unos sensores)

Pero... Como decide un sistema Inteligente cuando un olor es placentero o nauseabundo?
¿Se le graban unos patrones?
A mi no me gusta como huele el queso, pero a ron le encanta.
¿Eso se puede meter en un patrón? ¿El programable la reacción a un olor?

La IA no será posible. Podrán "simularla", pero dudo que seamos tan listos como para crear un cerebro tan tonto como el del hombre.

Las Inteligencias se crean de forma empirica, no metiendo unas pautas a seguir.

Avatar de Usuario
explorer
Mensajes: 198
Registrado: 10 Ene 2016 18:43
Ubicación: Valladolid, España
Agradecido : 4 veces
Agradecimiento recibido: 180 veces
Contactar:

Re: Inteligencia Artificial representa gran peligro para la humanidad

Mensajepor explorer » 11 Sep 2018 04:02

El que un olor sea placentero o nauseabundo es algo subjetivo, de cada persona. Una vez conocí a una chica que me confesaba su predilección por el olor mezcla de sudor y gasolina (!). Literalmente, perdía la cabeza por el hombre que oliera de esa manera.

Por ejemplo, parte de los componentes de la perfumería actual se basan en docenas de olores individuales, algunos de ellos realmente repulsivos si se huelen por separado, pero al unirse en pequeñas proporciones, dan como resultado un perfume placentero.

De la Wikipedia (Perfume): «Los aceites esenciales son sustancias orgánicas, líquidas aunque algunas veces sólidas, de olor y sabor acres, irritantes e incluso cáusticas».

La industria suele tener una serie de olores "fijos" para crear las líneas de perfumes, pero de la docena de perfumes que sacan al año, a lo mejor triunfa un par de ellos. Y aunque ya existen las narices electrónicas, no deja de ser algo subjetivo.

Como comento en alguno de los enlaces que he puesto, el mayor error que cometemos es darle un sentido antropomorfo a las IA, y no tienen nada que ver con nosotros. No se trata de simular un cerebro humano. Basta con que realice operaciones que haría un humano. Lo de "Inteligencia artificial" no aspira a que un programa o un robot tenga la inteligencia de un ser humano, sino que nos basta que haga una tarea con a) un número muy grande de datos, b) reconocer patrones en información incompleta, c) aprender de lo ocurrido o del entorno, d) ...

Ejemplo real: si una joven estudiante universitaria visita cierto tipo de productos de nuestra tienda, hay un porcentaje muy elevado de probabilidades de que esté embarazada, por lo que obtendremos más éxito de ventas si le enviamos publicidad de productos premamá, como vitaminas o velas aromáticas para el baño.

Otro ejemplo real: si el nivel de suciedad del agua que sale del tambor de la lavadora es bajo, y además el peso del contenido del tambor también lo es, podemos reducir el número de aclarados finales, reducir la temperatura y terminar antes.

Estos dos ejemplos son aplicaciones de la IA actual. Bueno, la lógica difusa que usa la lavadora se considera hoy en día que no es realmente una IA.

Muchas de las aplicaciones de la IA consisten en la grabación de patrones, en efecto. Para ello se suelen utilizar redes neuronales.
JF^D Perl Programming Language - -j4tar1 Falcon030 4/80 MB UK, Jaguar
Calendario de Retroinformática - Canales Telegram ATARI y Retro

Avatar de Usuario
Chema
Mensajes: 1998
Registrado: 21 Jun 2012 20:13
Ubicación: Gijón
Agradecido : 1210 veces
Agradecimiento recibido: 399 veces
Contactar:

Re: Inteligencia Artificial representa gran peligro para la humanidad

Mensajepor Chema » 11 Sep 2018 10:08

Menudo tema! Yo estoy de acuerdo en que el punto de inflexión entre la IA "débil" como la conocemos ahora y la "fuerte" es la autoconciencia. Creo que ese tema se trataba en el libro Gödel, Escher, Bach: un Eterno y Grácil Bucle de Hofstadter. Cuando yo estudiaba, se comentaba que con las técnicas disponibles entonces parecía imposible llegar a una IA fuerte, porque no se puede "programar" en un sistema lógico de reglas. Pero que quizás pudiera "emerger" en un sistema suficientemente complejo capaz de aprender.

Bien, hoy en día tenemos sistemas complejos que pueden aprender excelentemente bien... pero ¿pueden tomar conciencia de su existencia? Aún queda para ello, creo yo.

Avatar de Usuario
Drtad
Mensajes: 641
Registrado: 19 Ago 2017 11:21
Agradecido : 47 veces
Agradecimiento recibido: 101 veces

Re: Inteligencia Artificial representa gran peligro para la humanidad

Mensajepor Drtad » 16 Sep 2018 10:53

Pero, en el fondo, que es la IA? Software o hardware? Por qué si cojemos un zx81 con su z80 y le ampliamos la RAM y desarrollamos una IA para el, seis este una máquina no retro? Ya estoy mezclando hilos :D yo soy de los que piensa que la IA no depende de una plataforma concreta, si no de estar bien programada, hace eones cuando tenía mi amstrad, descubrí un sordo en basic conversacional que eres pseudo inteligente dependiendo del contexto de la conversación aunque le preguntarás lo mismo en dos conversaciones distintas te respondía de una u otra forma, es eso una IA? Entonces si un software programado en un Vic 20 pasa el test de turing se puede considerar al Vic 20 una IA?
A.N.O.N.I.M.O.X.: Artificial Networked Organism Normally for Intensive Mathematics and Online Xenocide

Avatar de Usuario
ron
Mensajes: 18146
Registrado: 28 Oct 2010 14:20
Ubicación: retrocrypta
Agradecido : 1047 veces
Agradecimiento recibido: 1099 veces

Re: Inteligencia Artificial representa gran peligro para la humanidad

Mensajepor ron » 16 Sep 2018 11:12

Bueno, el ELIZA es la prueba de ello.
En un ZX81 con RAM o en un Vic20 con RAM lo puedes ejecutar ya que está escrito en Basic.

No es exactamente un programa de inteligencia artificial dado lo reducido de su alcance, pero es para que nos hagamos la idea de todo lo que se podría lograr, evidentemente la clave de la IA está absolutamente en el software, el hardware puede ser cualquiera.

Avatar de Usuario
Hergoth
Mensajes: 583
Registrado: 31 Dic 2015 21:22
Agradecido : 127 veces
Agradecimiento recibido: 90 veces

Re: Inteligencia Artificial representa gran peligro para la humanidad

Mensajepor Hergoth » 16 Sep 2018 11:33

Pienso que el hardware también influye, por la capacidad y potencia de cálculo. Si logramos una máquina lo suficientemente rápida, unida a un software bien programado, de manera que pueda procesar muchas variables (parametrización del entorno, estado interno de la propia máquina y objetivos), creo que sería más fácil desarrollar una IA potente, que fuera capaz de irse "reprogramando" en tiempo real por sí misma (aprendizaje, cambio de objetivos, ...) Es decir, prácticamente como cualquier "ser vivo".

Aunque la pregunta es, ¿llegaría a tener "conciencia" de sí misma y eso qué conllevaría?

Avatar de Usuario
ron
Mensajes: 18146
Registrado: 28 Oct 2010 14:20
Ubicación: retrocrypta
Agradecido : 1047 veces
Agradecimiento recibido: 1099 veces

Re: Inteligencia Artificial representa gran peligro para la humanidad

Mensajepor ron » 16 Sep 2018 12:21

Hergoth escribió:Pienso que el hardware también influye, por la capacidad y potencia de cálculo. Si logramos una máquina lo suficientemente rápida, unida a un software bien programado, de manera que pueda procesar muchas variables (parametrización del entorno, estado interno de la propia máquina y objetivos), creo que sería más fácil desarrollar una IA potente, que fuera capaz de irse "reprogramando" en tiempo real por sí misma (aprendizaje, cambio de objetivos, ...) Es decir, prácticamente como cualquier "ser vivo".

Aunque la pregunta es, ¿llegaría a tener "conciencia" de sí misma y eso qué conllevaría?


Claro que si que influye, lo que pasa que no me quería extender más de lo necesario. Tu post añade ese plus sobre el HW, que efectivamente existe.

Avatar de Usuario
gflorez
Mensajes: 1148
Registrado: 12 Sep 2014 19:58
Agradecido : 33 veces
Agradecimiento recibido: 215 veces

Re: Inteligencia Artificial representa gran peligro para la humanidad

Mensajepor gflorez » 16 Sep 2018 12:39

Ser consciente de uno mismo es lo que hacemos nosotros con nuestro cuerpo sembrado de multitud de sensores devolviendo información en tiempo real, ¿no?

Avatar de Usuario
Chema
Mensajes: 1998
Registrado: 21 Jun 2012 20:13
Ubicación: Gijón
Agradecido : 1210 veces
Agradecimiento recibido: 399 veces
Contactar:

Re: Inteligencia Artificial representa gran peligro para la humanidad

Mensajepor Chema » 16 Sep 2018 14:31

Me temo que el problema es bastante más complejo que eso. Echa un vistazo en la sección de conciencia en la inteligencia artificial de este artículo de la Wikipedia
https://es.m.wikipedia.org/wiki/Conciencia
Me parece a mí que hace falta mucho estudio solo para empezar a entender las sutilezas de este problema.

Avatar de Usuario
gflorez
Mensajes: 1148
Registrado: 12 Sep 2014 19:58
Agradecido : 33 veces
Agradecimiento recibido: 215 veces

Re: Inteligencia Artificial representa gran peligro para la humanidad

Mensajepor gflorez » 16 Sep 2018 18:28

Bueno, partiendo de reset(nacimiento o antes....), lo que si tenemos los humanos es una muy buena potencialidad de aprender, todos nuestros sensores colaboran a ello, digamos durante unos 15 años o más hasta ser adultos y luego durante nuestras vidas. Todo ese tiempo, vemos la realidad desde una perspectiva tan individual, centrada en nosotros mismos, que casi me parece lógico que el sujeto acabe tarde o temprano sintiéndose como un ser consciente de si mismo.

Avatar de Usuario
Hergoth
Mensajes: 583
Registrado: 31 Dic 2015 21:22
Agradecido : 127 veces
Agradecimiento recibido: 90 veces

Re: Inteligencia Artificial representa gran peligro para la humanidad

Mensajepor Hergoth » 16 Sep 2018 21:46

gflorez escribió:Bueno, partiendo de reset(nacimiento o antes....), lo que si tenemos los humanos es una muy buena potencialidad de aprender, todos nuestros sensores colaboran a ello, digamos durante unos 15 años o más hasta ser adultos y luego durante nuestras vidas. Todo ese tiempo, vemos la realidad desde una perspectiva tan individual, centrada en nosotros mismos, que casi me parece lógico que el sujeto acabe tarde o temprano sintiéndose como un ser consciente de si mismo.

Creo que eso es uno de los puntos importantes: ¿acaso el ser humano no va cambiando su percepción del entorno y de sí mismo a medida que va envejeciendo? Tenemos un micro analógico completamente distribuido (cerebro y sistema nervioso) con más circuitería, y un software generalmente bien programado -thumbup y optimizado para recabar cantidades ingentes de datos, tanto externos como internos.

Avatar de Usuario
gflorez
Mensajes: 1148
Registrado: 12 Sep 2014 19:58
Agradecido : 33 veces
Agradecimiento recibido: 215 veces

Re: Inteligencia Artificial representa gran peligro para la humanidad

Mensajepor gflorez » 16 Sep 2018 22:06

Eso de "generalmente bien programado", es muy bueno y abre la discusión a otras trampas mentales que padecemos, como el sectarismo, la envidia, la locura o la retrocomputación, entre muchas más.

Lo que se suele llamar EL MAL, serían errores de nuestra programación, que a veces provoca que los humanos vayan contra si mismos, contra otros individuos o cosas, contra colectivos, o los mas audaces contra la humanidad entera....

Yo me pregunto, ¿estarán nuestros hijos y creaciones a salvo de nuestros errores?

Avatar de Usuario
explorer
Mensajes: 198
Registrado: 10 Ene 2016 18:43
Ubicación: Valladolid, España
Agradecido : 4 veces
Agradecimiento recibido: 180 veces
Contactar:

Re: Inteligencia Artificial representa gran peligro para la humanidad

Mensajepor explorer » 16 Sep 2018 22:25

Uno de los temas actuales de la IA es el "Machine Learning" (Aprendizaje automático), la facultad por la que una IA "aprende" de las situaciones pasadas.

En el mundo de los videojuegos, por ejemplo, una de las técnicas que se suelen emplear es la Q-learning, por la que una IA aprende a recorrer un laberinto o un recorrido cada vez en menos tiempo.
JF^D Perl Programming Language - -j4tar1 Falcon030 4/80 MB UK, Jaguar
Calendario de Retroinformática - Canales Telegram ATARI y Retro

Avatar de Usuario
ron
Mensajes: 18146
Registrado: 28 Oct 2010 14:20
Ubicación: retrocrypta
Agradecido : 1047 veces
Agradecimiento recibido: 1099 veces

Re: Inteligencia Artificial representa gran peligro para la humanidad

Mensajepor ron » 16 Sep 2018 23:38

Hace 30 años o más, que no me acuerdo de acordarme de los lenguajes LISP y ALGOL.

¿ Acabaron en algo serio ?

Avatar de Usuario
gflorez
Mensajes: 1148
Registrado: 12 Sep 2014 19:58
Agradecido : 33 veces
Agradecimiento recibido: 215 veces

Re: Inteligencia Artificial representa gran peligro para la humanidad

Mensajepor gflorez » 16 Sep 2018 23:50

Sabes que el Enterprise y su emulador tienen una Rom de Lisp, ¿verdad? Y aquí el manual.


Volver a “Off Topic”

¿Quién está conectado?

Usuarios navegando por este Foro: No hay usuarios registrados visitando el Foro y 1 invitado