Ética e IA

MiNmbreNoCab
#29nic098765:

Creo que la presunción que haces sobre la inteligencia artificial quizás es demasiado temprana, hay una diferencia muy grande entre el ajedrez y la vida real, las reglas, la vida real tiene una regla muy simple, como tu dices, sobrevive

No.

Todo son matematicas, desde la implosion de una estrella hasta el zurullo que cagas por la mañana.

Si encuentras la forma de interpretarla con el tiempo y los medios podras simularla.

1 4 respuestas
polaritySYS

#31 #29

La diferencia entre la vida y el ajedrez, o cualquier otro campo son las variables. En la vida, obviamente, pues simplemente son impensable.

1 respuesta
JoramRTR

Escuchad algun podcast de Sam Harris o Elon Musk sobre el tema, yo la verdad que compro su posicion... son impredecibles y por lo tanto peligrosas.

Mirad que maja le salió un proyecto de IA a Microsoft.

2 2 respuestas
nic098765
#31MiNmbreNoCab:

Si encuentras la forma de interpretarla

Claro, asumiendo que encuentras una forma de interpretarlo es muy fácil, pero ahora ponte tu y hazlo, precisamente digo que la presunción es temprana porque no creo que sea imposible, simplemente creo que avanzar del ajedrez a la vida real es un paso muy grande que no se va a dar tan rápido como interpreto que espera Hipnos por lo que ha escrito.

#32 Las variables en la vida puedes acotarlas a las que te convengan para hacer una simulación "decente" incluso ahora, el caso es que es mucho más difícil que el ajedrez o el Super Mario, por eso he puesto también el ejemplo del Pokemon, para que se vea algo relativamente sencillo, mucho más que la vida, que no es muy fácil de programar con los conocimientos de IA que existen a día de hoy.

#33 sigue siendo IA a la que le han enseñado humanos, el miedo a la IA tiene que ser miedo a los humanos, que son los que pueden decidir su uso.

2 respuestas
polaritySYS

#34 No puedes ni siquiera plantear una forma de predecir algo en la vida, o en esta realidad. Como puedes predecir una jugada de tu contrincante en un ajedrez? Como puedes predecir que una persona de un 5º piso de un barrio costero y que sea mujer, le vaya a dar un brote psicótico?. Ni siquiera en predecir el tiempo acertamos, solo intentamos predecirlo.

Aunque en temas de IA ando totalmente en terreno desconocido, lo que he podido ir viendo es que funciona en base a simulaciones?. Seguiría estando a años luz del resultado.

1 respuesta
B

Pero... ¿Y si eso ya ha ocurrido? ¿Y si una especie, en su búsqueda por la Inteligencia Artifical General perfecta ha simulado millones de mundos y universos, y nosotros mismos no somos más que una iteración?

La pregunta es sencilla una vez la piensas. Cuando una máquina empezaría a estar viva? Tecnicamente, si esto fuera así, y nosotros solo fuéramos un dato más que simular estamos nosotros vivos?

Para mi no sería más que un registro en una base de datos inmensa, así que tecnicamente no, no estaría vivo

1 respuesta
MiNmbreNoCab

#34 no, es que tu estas simplificando el ajedrez, no lo digo a malas, pero creo que no comprendes porque a todas las IA o la mayoria de ellas, las ponen a jugar al ajedrez.

El ajedrez es una prueba cabal del poder de la memoria y de la imaginacion.

Resulta que nuestra inteligencia nace de esos dos factores (entre algun otro), todo nace de la memoria y de la imaginacion/abstraccion (habla, escritura, etc)

Por eso lo que se necesita para jugar al ajedrez y lo que es necesario para crear un ser autoconsciente no es algo tan dispar

Ademas, entrariamos en variables, quien dice que hay que preparalos para "nuestra vida". Una IA diseñada para colonizar el espacio no necesita tener habilidades sociales y viceversa con una IA social.

Y la regla de la vida real no es "sobrevivir". De hecho, uno de los factores que nos hace humanos es que hemos trascendido el solo "sobrevivir" y tenemos otras necesidades de caracter metafisico.

3 respuestas
polaritySYS

#36 Tendrías que definir que es la vida, y a día de hoy, el debate continúa en dónde pueden estar los límites.

Kike_Knoxvil
#22MiNmbreNoCab:

Y estarias condenando a su potencial descendencia a potenciales secuelas

Estás asumiendo que en algún punto volverían a la sociedad y no tiene por qué. En lugar de condenarlos a muerte haces esto y solo les afectas a ellos

1 respuesta
MiNmbreNoCab

#39 No, no estoy asumiendo nada, por eso digo potencial.

Tienes razon en eso, no he considerado la pena capital ya que no entra en mi concepto de "etica".

No veo como una muerte puede pagar una deuda a la sociedad, es una deuda de sangre, nada mas.

Aun asi, tendriamos que establecer que clase de delitos de sangre se merecerian esa condena.

Por que un padre al que le han violado a la hija y mata al asesino a sangre fria es merecedor de eso?

Ah, la etica, que puta.

1 respuesta
R

#31 tenemos a un determinista a por el!

#33 esa fue una de las cosas mas graciosas del año xd

1
nic098765

#35 Las IA no se basan en predecir, se basan en memorizar, básicamente la IA se enfrenta a un desafío preestablecido, como Super Mario, o a otra IA, como ella misma en juegos como ajedrez o Dota 2, y básicamente la IA aprende que tiene que hacer en cada situación y cuando vea que progresa, almacena las decisiones que le han permitido progresar más, eso en el caso de aprendizaje automático, en IA de otro estilo estoy más perdido sobre como es el diseño a nivel teórico.
El caso es que técnicamente muchos problemas son viables de definir, pero tan complejos que aunque sean posibles de diseñar para el aprendizaje automático, sean muy complicados y se intentan solucionar de otra forma.

#37 El ajedrez no es una prueba de imaginación, y precisamente lo que hace una IA es memorizar que hacer entre diferentes situaciones, y no solo eso, los jugadores de ajedrez también lo hacen, se saben muchas situaciones de memoria y la mejor forma de avanzar en cada situación, simplemente no son tan buenas como un ordenador almacenando información.

Y sobre sobrevivir, es porque Hipnos hablaba de una IA general y usaba ese ejemplo, precisamente he dicho más tarde que cualquier IA que veamos dentro de poco será una IA para algo específico y que una IA general, como la inteligencia que tendrían los humanos, no va a existir o sería ineficiente.

2 respuestas
Kike_Knoxvil

#40 Eso ya es otro tema, aunque no queda duda que hay algunos que realmente se lo merecen como los asesinos en serie en los que está más que demostrado que fueron ellos

MiNmbreNoCab
#42nic098765:

El ajedrez no es una prueba de imaginación

No me malentiendas, entiendase imaginacion como improvisacion o toma de decisiones o como quieras llamarlo, he dicho imaginacion por que es el hiperonimo de todo lo que se te ocurra relacionado con el ajedrez.

Para que nos entendamos, todos los movimientos que se memorizan fueron inventadas ya antes.

#42nic098765:

Y sobre sobrevivir, es porque Hipnos hablaba de una IA general y usaba ese ejemplo, precisamente he dicho más tarde que cualquier IA que veamos dentro de poco será una IA para algo específico y que una IA general, como la inteligencia que tendrían los humanos, no va a existir o sería ineficiente.

Ah bueno, disculpas. fallo mio por no leer atentamente esa conversacion

Pero yo si creo que existira una IA propiamente inteligente. No falta mucho de hecho. echale unas decadas.

Hasta donde se del tema (corregidme si me equivoco) lo que se esta haciendo ahora es meter todas las variables de respuesta que se te ocurran para crear una falsa ilusion de imaginacion/improvisacion. Como digo, tampoco falta mucho.

Ya que: ¿Si creas una IA a base de meterle variables a porron que sea capaz de mantener una conversacion como un humano normal, se convierte en humana, o no?

La memoria, creo que a vista esta que sabemos como replicarla y encima mas eficaz que la nuestra.

1 respuesta
nic098765
#44MiNmbreNoCab:

No me malentiendas, entiendase imaginacion como improvisacion o toma de decisiones o como quieras llamarlo, he dicho imaginacion por que es el hiperonimo de todo lo que se te ocurra relacionado con el ajedrez.

Es que imaginación no tiene nada que ver con lo otro, normal que te malentienda si dices una cosa queriendo decir otra, y el ajedrez de una IA sigue sin ser improvisación, la improvisación que hacen es aleatoria, prueban todo y se quedan con la que les ha venido mejor, al final una IA de ajedrez solo toma decisiones en base a los resultados anteriores.

#44MiNmbreNoCab:

Pero yo si creo que existira una IA propiamente inteligente. No falta mucho de hecho. echale unas decadas.

Imposible de predecir, mi conocimiento es limitado ya que aunque estoy estudiando ingeniería informática la IA no es en lo que me voy a especializar, pero creo que la gente que sabe más que yo con la que he hablado me ha transmitido la misma idea, que no está del todo claro.

#44MiNmbreNoCab:

Hasta donde se del tema (corregidme si me equivoco) lo que se esta haciendo ahora es meter todas las variables de respuesta que se te ocurran para crear una falsa ilusion de imaginacion/improvisacion.

Precisamente por esto mismo que dices es que no puedes hablar de imaginación en IA, lo que se hace en aprendizaje automático es probar todo y quedarte con lo que funciona, y si te quedas estancado en algún sitio pues cambiar cosas aleatoriamente para ver si avanza más.

Para que la gente entienda un poco más de aprendizaje automático, un vídeo de un ejemplo claro de Mario muy bien explicado, en inglés eso sí:

#44MiNmbreNoCab:

Ya que: ¿Si creas una IA a base de meterle variables a porron que sea capaz de mantener una conversacion como un humano normal, se convierte en humana, o no?

Esto es algo muy subjetivo, pero si la IA no sufre, no siente ni nada por el estilo, para mi no, y si eres capaz de hacer una IA que hace todo lo que hace un humano hasta el punto de sentir, a parte de poco probable pronto, me parece que si sería una persona.

1 respuesta
MiNmbreNoCab
#45nic098765:

Es que imaginación no tiene nada que ver con lo otro, normal que te malentienda si dices una cosa queriendo decir otra,

Como que no tienen nada que ver, si la imaginación es la madre de la improvisación. no te confundas, he dicho imaginacion por englobar y luego he dicho improvisacion para que nos entendamos, pero no hay ningun error.

#45nic098765:

prueban todo y se quedan con la que les ha venido mejor, al final una IA de ajedrez solo toma decisiones en base a los resultados anteriores.

Vamos, exactamente como la de los humanos y aqui interviene la memoria.

Nosotros tomamos decisiones en base a los resultados anteriores en cada situacion que te puedas imaginar.

#45nic098765:

Precisamente por esto mismo que dices es que no puedes hablar de imaginación en IA, lo que se hace en aprendizaje automático es probar todo y quedarte con lo que funciona, y si te quedas estancado en algún sitio pues cambiar cosas aleatoriamente para ver si avanza más.

Estamos diciendo lo mismo, pero no nos entendemos.

no se porque no eres capaz de ver que es exactamente lo que hacemos nosotros.

Tambien habria que hablar de aprendizaje pero considero que con memoria se entiende de sobra.

En cualquier caso es un tema complejo en el que intervienen muchisimos factores como el instinto, como replicar un instinto me resulta mucho mas complicado que un ser autoconsciente, la verdad.

Y luego algo mas filosofico. si consigues una IA que responda a cada situacion, por mucho que haya sido a lo cutre, a base de meter variables a porron, has creado un ser autoconsciente, por mucho que sea una maquina siguiendo algoritmos de respuesta automaticos.

2 respuestas
nic098765

#46 Improvisación e imaginación si están relacionadas, la toma de decisiones, especialmente la de una IA, no tiene nada que ver con estas dos.
Los humanos no hacen exactamente eso, ni de lejos, los jugadores profesionales de ajedrez por ejemplo si, pero un jugador casual simplemente analizaría la situación del tablero y se plantearía que decisión es la más correcta, su toma de decisiones se basaría no en la memoria, si no en comprender las reglas y como ganar.
Y los seres humanos no tienen una inteligencia únicamente basada en la memoria, si esto fuera así todo el avance científico se haría probando todas las opciones posibles hasta encontrar una que sirva, sin embargo los humanos encontramos soluciones de otras maneras porque nuestra cabeza es bastante más complicada que una IA actual.

1 respuesta
MiNmbreNoCab
#47nic098765:

Improvisación e imaginación si están relacionadas, la toma de decisiones, especialmente la de una IA, no tiene nada que ver con estas dos.

Ya se que por ahora no tiene mucho que ver, pero se trata de replicar la imaginacion como la conocemos.

#47nic098765:

Los humanos no hacen exactamente eso, ni de lejos, los jugadores profesionales de ajedrez por ejemplo si, pero un jugador casual simplemente analizaría la situación del tablero y se plantearía que decisión es la más correcta, su toma de decisiones se basaría no en la memoria, si no en comprender las reglas y como ganar.

Pues exactamente como hace una IA, se le meten algoritmos para que comprenda las reglas ya que estas no son mas que numeros y a partir de ahi aprende en base a los resultados.

Esto no es discutible.

#47nic098765:

Y los seres humanos no tienen una inteligencia únicamente basada en la memoria

No he dicho eso en ningun momento.

1 respuesta
cabron
#31MiNmbreNoCab:

Todo son matematicas, desde la implosion de una estrella hasta el zurullo que cagas por la mañana.

Si encuentras la forma de interpretarla con el tiempo y los medios podras simularla.

Vaya, ahora me entero de que se han descubierto los secretos de la realidad y de la existencia, ¿serías tan amable de contármelos?

No, no todo son matemáticas, nadie tiene ni puta idea que hay detrás de la existencia. Las matemáticas son la única herramienta que tenemos para entender la realidad, pero de ahí a afirmar que eso es todo lo que hay un trecho gordo.

Podría ser que sí, y podría ser que no.

#37

#37MiNmbreNoCab:

El ajedrez es una prueba cabal del poder de la memoria y de la imaginacion.

Resulta que nuestra inteligencia nace de esos dos factores (entre algun otro), todo nace de la memoria y de la imaginacion/abstraccion (habla, escritura, etc)

De nuevo te vuelves a equivocar y no tienes ni idea de como funcionan las IAs modernas. De forma resumida, son modelos probabiíisticos, tienen dos fases, en una 'aprenden' a base de realizar muchas acciones y evaluar que resultados tienen, y cuando ya tienen un número de casos suficientes para evaluar problemas, eligen las opciones que tienen más probabilidad de dar un resultado correcto, no tienen absolutamente nada que ver con simular la creatividad ni la imaginación. Ese modelo de 'inteligencia' está muy lejos de crear una inteligencia consciente como la nuestra, sin embargo se ha mostrado que puede igualar o superarla en muchas tareas, como jugar al ajedrez, a pesar de que factores como la imaginación y la creatividad no aparecen por ningún sitio.

1 respuesta
nic098765

#48

#48MiNmbreNoCab:

Pues exactamente como hace una IA, se le meten algoritmos para que comprenda las reglas ya que estas no son mas que numeros y a partir de ahi aprende en base a los resultados.

Lo que yo he dicho es que una persona no aprende o mejora o toma decisiones simplemente en base a los resultados y la memoria, cuando una IA hace exactamente eso.
Te he puesto un ejemplo de un jugador casual como yo de ajedrez, yo si juego cada vez que mi enemigo mueve una pieza analizo el estado del tablero y pienso que me convendría hacer, basándome en las reglas, como mucho tengo memorizada una o dos estrategias, el resto de las veces, especialmente cuando la partida esta muy avanzada y pueden haber pasado muchas cosas no tengo claro que hacer y analizo las diferentes posibilidades de una manera que una IA no puede hacer.

#46MiNmbreNoCab:

no se porque no eres capaz de ver que es exactamente lo que hacemos nosotros.

Esto es lo que has dicho respecto al aprendizaje automático de IA, y no es exactamente lo que hacemos nosotros porque la IA usa solo la memoria y nosotros tenemos más opciones a la hora de tomar decisiones.

1 respuesta
MiNmbreNoCab

#49 Mejora tu comprension lectora por que no has entendido nada. He dicho exactamente eso, que actualmente las IAs se basan en meterles probabilidades/respuestas a casco porro y a volar para simular la toma de decisiones. No se que me estas contando.

O igual soy yo, que me he expresado mal.

Anyways, lo de que la memoria y la imaginacion en el ajedrez son una prueba cabal no lo digo yo, lo dice Diderot.

#49cabron:

Vaya, ahora me entero de que se han descubierto los secretos de la realidad y de la existencia, ¿serías tan amable de contármelos?

No, no todo son matemáticas, nadie tiene ni puta idea que hay detrás de la existencia. Las matemáticas son la única herramienta que tenemos para entender la realidad, pero de ahí a afirmar que eso es todo lo que hay un trecho gordo.

Podría ser que sí, y podría ser que no.

Si nos ponemos en ese plan ¿Como poder saber que hay detras de la existencia o siquiera si existe esa no-existencia xd que consideras tu existencia y que no?

Ergo, hasta donde sabemos, si las matematicas son lo unico que tenemos para entender la realidad. las matematicas lo son todo, como la propia logica indica.

Por que lo que no es real, no nos concierne. (no me salgas con lo abstracto)

#50nic098765:

Esto es lo que has dicho respecto al aprendizaje automático de IA, y no es exactamente lo que hacemos nosotros porque la IA usa solo la memoria y nosotros tenemos más opciones a la hora de tomar decisiones.

Claro, por que tu tienes imaginacion y una IA no. de verdad que no entiendo por que estamos discutiendo.

2 respuestas
nic098765

#51 Primero me insultas y luego me das un argumento de autoridad.
Has dicho que el aprendizaje de una IA es exactamente lo que hacemos nosotros, entiendo que "lo que hacemos nosotros" te refieres a como aprendemos y tomamos decisiones, y el aprendizaje obviamente solo puede ser por memoria, la toma de decisiones y como solucionar un problema no se basa solo en memoria, y a parte los seres humanos tenemos instintos básicos que digamos no entran dentro de lo que hace una IA.

#51MiNmbreNoCab:

Claro, por que tu tienes imaginacion y una IA no. de verdad que no entiendo por que estamos discutiendo.

#37MiNmbreNoCab:

El ajedrez es una prueba cabal del poder de la memoria y de la imaginacion.

Y te he explicado que no, que el ajedrez no es una prueba de imaginación para una inteligencia artificial, que una inteligencia artificial no tiene imaginación, que una persona sí y que una persona lo utiliza en el ajedrez cuando una IA no lo hace.

1 respuesta
MiNmbreNoCab

#52 No te he citado a ti con lo de comprension lectora. xd

A menos que te creas mas inteligente que Diderot, es una falacia de autoridad valida, no todas las falacias son incorrectas o estan mal aplicadas.

#52nic098765:

Has dicho que el aprendizaje de una IA es exactamente lo que hacemos nosotros, entiendo que "lo que hacemos nosotros" te refieres a como aprendemos y tomamos decisiones, y el aprendizaje obviamente solo puede ser por memoria, la toma de decisiones y como solucionar un problema no se basa solo en memoria, y a parte los seres humanos tenemos instintos básicos que digamos no entran dentro de lo que hace una IA.

Y te repito, el aprendizaje es exactamente el mismo al nuestro.

Y te repito, otra vez, la toma de decisiones/improvisacion/blabla NO, por que no sabemos replicar la humana, todavia.

Y te repito, por ultima vez, no se que estamos discutiendo.

ya que lo de los instintos ya lo he dicho yo antes tambien.

1 respuesta
cabron

#51

#51MiNmbreNoCab:

Mejora tu comprension lectora por que no has entendido nada.

¿Hola? pero si has puesto literalmente que es interesante simular una ia que juegue al ajedrez por que es necesario imaginación.

Toma, te dejo un artículo de uno de los mayores expertos en redes neuroanles del mundo (lo que está detrás de esas maravillosas IA's) para que veas que no tienen absolutamente nada que ver con una inteligencia como la nuestra, y que estamos a años luz de conseguirlo hoy día: https://venturebeat.com/2018/12/17/geoffrey-hinton-and-demis-hassabis-agi-is-nowhere-close-to-being-a-reality/

A lo mejor tú sabes más que él.

#51MiNmbreNoCab:

Si nos ponemos en ese plan ¿Como poder saber que hay detras de la existencia o siquiera si existe esa no-existencia xd que consideras tu existencia y que no?

De ninguna forma, de ahí que la respuesta es 'no se sabe'.

Otra cosa es que tengas que vivir el día a día, y apañarte con lo que tienes, en mitad de la selva tienes gente que todavía cree que la lluvia la traen los dioses, y eso no lo convierte en real.

1 respuesta
nic098765

#53

#53MiNmbreNoCab:

falacia de autoridad valida

Una falacia es por definición un argumento que parece válido pero no lo es, si fuera válido no sería una falacia.

Por otro lado comprendo perfectamente como funciona una IA, te he explicado todo esto porque hablas del ajedrez como una prueba de imaginación, y te he explicado porque no es una prueba de imaginación.

1 respuesta
MiNmbreNoCab
#54cabron:

¿Hola? pero si has puesto literalmente que es interesante simular una ia que juegue al ajedrez por que es necesario imaginación.

Eeeh, no, te invito, te reto a que me cites donde he puesto eso.

He dicho que a las IAS las ponen a jugar al ajedrez por que el ajedrez requiere imaginacion y memoria, me parece subrealista estar discutiendo esto.

No lo voy a repetir.

#54cabron:

A lo mejor tú sabes más que él.

No, no se mas que el, ojala pero seguramente tu si seas mas inteligente que Diderot xdxd

#54cabron:

De ninguna forma, de ahí que la respuesta es 'no se sabe'.

Otra cosa es que tengas que vivir el día a día, y apañarte con lo que tienes, en mitad de la selva tienes gente que todavía cree que la lluvia la traen los dioses, y eso no lo convierte en real.

Ergo se convierte en no-relevante que exista algo extraexistencial.

Y deja a las matematicas siendo la forma de entender la realidad en su extension.

#55nic098765:

y te he explicado porque no es una prueba de imaginación.

Pero que me expliques porque no es una prueba de imaginacion lo unico que me provoca es risa, desde el respeto.

El ajedrez es prueba de creatividad y memoria, y me parece totalmente subrealista que se cuestione esto xd

Tienes internet, teclado, 10 dedos y miles de estudios para comprobar esto xdxd

2 respuestas
nic098765
#56MiNmbreNoCab:

ajedrez requiere imaginacion

El ajedrez no requiere imaginación, es una solución que tenemos las personas, pero no es algo que requiera imaginación.

1 respuesta
cabron

#56

Huida hacía adelante, donde dije digo, digo Diego, falacias de autoridad (por que lo dice Diderot que es más listo que yo), ignorar argumentos (ni te has molestado en leer lo que he pasado), venga, hasta luego.

1 respuesta
MiNmbreNoCab

#57 Para ti la perra gorda.

Te falta entender que significa tener "imaginacion".

Creo que la entiendes como ser capaz de pintar o algo xd

macho cuando decides si quieres tomarte un yogur de fresa o uno de limon, estas utilizando la imaginacion.

#58

#58cabron:

Huida hacía adelante, donde dije digo, digo Diego, falacias de autoridad (por que lo dice Diderot que es más listo que yo), ignorar argumentos (ni te has molestado en leer lo que he pasado), venga, hasta luego.

Ninguna huida hacia delante, has venido diciendo cosas que no he dicho, de nuevo, te reto a que cites donde he dicho las cosas que me atribuyes.

El que esta huyendo eres tu.
El articulo me lo leere mas tarde por puro interes, no te confundas, es irrelevante para esta conversacion ya que partes de algo que NO he dicho.

1 respuesta
Frave
#42nic098765:

Las IA no se basan en predecir, se basan en memorizar, básicamente la IA se enfrenta a un desafío preestablecido, como Super Mario, o a otra IA, como ella misma en juegos como ajedrez o Dota 2, y básicamente la IA aprende que tiene que hacer en cada situación y cuando vea que progresa, almacena las decisiones que le han permitido progresar más, eso en el caso de aprendizaje automático, en IA de otro estilo estoy más perdido sobre como es el diseño a nivel teórico.
El caso es que técnicamente muchos problemas son viables de definir, pero tan complejos que aunque sean posibles de diseñar para el aprendizaje automático, sean muy complicados y se intentan solucionar de otra forma.

emm no rotundamente no, las IA de hoy en día no memorizan aprenden patrones a través de sacar características de alto nivel de los datos a los que se las expone, aprenden, no memorizan para nada.

1 respuesta