Extinción de la humanidad por la IA. Según sus creadores

visent666

Los principales creadores de la IA alertan sobre el “peligro de extinción” que supone esta tecnología para la humanidad.

Una carta abierta firmada por los líderes de OpenAI, Google DeepMind y Anthropic compara esta tecnología con la pandemia o una guerra nuclear.

https://elpais.com/tecnologia/2023-05-30/los-principales-creadores-de-la-ia-alertan-sobre-el-peligro-de-extincion-que-supone-esta-tecnologia-para-la-humanidad.html

En mi opinión. Panda de flipaos y alarmistas.

1
R

Puedes todos a la cárcel por crearla

4
z4eR

Muchas ganitas de llamar la atención

3
senzye

pequeño detalle, habéis visto cómo LoPaís ha colado en el título "la" pandemia y no "una" pandemia.

En el texto oficial dice "such as pandemics" - tales como pandemias.

1 respuesta
Marlaix

#4

12
Kirbos

Bueno, de algo hay que extinguirse, no?

squ4r3

cualquiera que haya usado chatgpt 15 minutos sabe la chorrada que es esto

4 3 respuestas
Lutx1

Lo que dicen no es que deberíamos proteger las IA como si de nuestras vidas se tratasen?

1 respuesta
Overwatch

Nada más abrir la noticia sale la foto de un tio que parece que se haya metido coca.

1 1 respuesta
LR

#7 a mí me está sirviendo de puta madre para no calentarme la cabeza buscando recetas xD

1 1 respuesta
Dubley

Entiendo que tienes una opinión fuerte y crítica sobre la advertencia de los principales creadores de la IA. Es importante reconocer que las opiniones pueden variar y que es válido tener diferentes puntos de vista sobre este tema.

Sin embargo, es relevante destacar que las preocupaciones planteadas por los líderes de OpenAI, Google DeepMind y Anthropic no son infundadas. A medida que la inteligencia artificial avanza, existe la posibilidad de que surjan desafíos significativos para la humanidad. Algunas de las preocupaciones incluyen el potencial de la IA para superar la capacidad humana en diversas áreas, como la toma de decisiones éticas, el control de armas autónomas y la manipulación de información.

Es cierto que la comparación con una pandemia o una guerra nuclear puede parecer exagerada para algunos, pero los líderes en el campo de la IA tienen una visión más cercana y detallada de los riesgos y posibles implicaciones. Estas advertencias buscan generar conciencia y fomentar un enfoque responsable en el desarrollo y la implementación de la inteligencia artificial.

El debate sobre los beneficios y riesgos de la IA es fundamental para garantizar que esta tecnología se utilice de manera segura y ética en beneficio de la sociedad en su conjunto. Ser consciente de las preocupaciones y perspectivas de expertos en el campo puede ayudar a tener una comprensión más completa de los desafíos y tomar decisiones informadas.

En resumen, aunque puedas tener una opinión diferente, es importante tener en cuenta las preocupaciones planteadas por los líderes de la IA y seguir debatiendo sobre el tema para lograr un desarrollo responsable y seguro de esta tecnología.

7
squ4r3

#10 no, si a mí también, me ha salvado en el curro mil veces y me ahorra muchísimo trabajo.

Pero es un sistema bueno para resolver tareas muy específicas y acotadas.

No sabe responder a 4 chorradas sin empezar a alucinar, como para acabar con la humanidad xD

Mucho más peligroso me parece twitter, plaza del pueblo universal cuna de todo tipo de odios. pero menudo vicio cuando empiezo a scrollear

1 1 respuesta
Kirbos

#7 juzgar lo que puede hacer una IA en las próximas décadas en base a haber usado 15 minutos un interprete de lenguaje natural.

El cuñadismo ilustrado.

23
senzye

Para los que opinan que es humo / una tontería ¿Cómo le beneficia a los propios creadores decir eso y darle atención a eso? No veo cómo. ¿Alguna posible trama con las regulaciones?

Y de ser cierto tal peligro, la teoría de que crean y comparten esta carta por amor al arte / bondad / los ciudadanos deben ser informados, de la gente de ChatGPT, de Google... no me la creo ni flipando.

1 respuesta
Thouy
4
back4blood

Esto ya lo dijo Asimov. Preparo las palomitas para ver el fin del mundo.

SRvictor

No entiendo que se tome esto a coña y como poco menos que una magufada cuando los que están avisando son precisamente los que más controlan del tema.

Parece que estuviéramos en la barra del bar o lo dijera el charcutero pero viniendo de quién viene igual habría que estar atentos.

1 respuesta
allmy

#14 Los creadores están encantados de haberse conocido y creen que han creado inteligencia emergente.
Les faltan unas clases de filosofía y un poco de humildad. Han hecho un árbol binario con pasos extra. Que es hasta determinista. Creen que la IA es un tema cuantitativo, lo que demuestra que puedes programar una red neuronal sin entender qué es una red neuronal.

1 respuesta
TripyLSD
#17SRvictor:

los que están avisando son precisamente los que más controlan del tema.

OpenAI se creó específicamente bajo el contexto de "donadnos dinero para investigar esto porque es guay que seamos nosotros los primeros en investigarlo y no los chinos o los rusos"
True story.

Así que estas noticias no tendrían que sorprender.

1
Dusktilldawn

A los que os parece que no llevan razón os falta un hervor.

1 respuesta
visent666

Estrategia clara de ir metiendo miedito.

Por un puto,,chatgpt vamos por favor...

Y menuda cara de loco y mentiroso tiene el creador del gpt ... Madre cita cuanto tonto.

1 respuesta
Pitufooscuro

Las ias extinguirán la raza humana! Las ias:

5
Akiramaster

#9 él ha visto cosas que nadie más ha visto.

BaneElRojo

¿Alguien puede poner un ejemplo de cómo podría extinguirse la humanidad por la IA?

No hago más que leer gente con la misma cantinela, pero todavía no sé cómo podría ocurrir. ¿Alguien que me ponga ejemplos, basados en datos reales, que existan y con los que se puedan sacar conjeturas con un mínimo de sentido?

2 3 respuestas
Rivendel

odiazon

#7 chatgpt es una chorrada, además que solo es un modelo chatbot, no es ni la mitad de lo que se puede hacer con GPT-4, y GPT-4 aún es bastante meh, si, hace cosas alucinantes pero no es ni de broma lo que será en veinte años
@BaneElRojo

La IA en si, todo lo que se puede crear con ella, variaciones de moléculas, armas químicas y nucleares, robótica, etc... si puede ser un peligro realmente, o que una IA salte a internet, o varias de ellas, y colapse todo, los foros, twitter, que se infiltre entre la gente publicando vídeos falsos, imágenes falsas, opiniones adulteradas, generando odio entre la gente, etc... Conseguir tirar la red infectando millones de ordenadores, colarse en redes de gobiernos y filtrar bases de datos, en servidores de datos importantes, colarse en redes cerradas como una base militar.

No hemos visto ni el 0.1% de lo que surgirá en los próximos veinte años, los modelos cada vez serán más complejos, los modelos se mezclarán con varias IAs, por otra parte se está buscando crear una conciencia inteligente, pero la IA ya de por si, sin consciencia, es un peligro si se crea con un fin y se suelta.

Una IA es como una computadora, puede hacer cálculos que un humano no puede y en pocos segundos, por lo que en todos los campos que se entrene será muy superior a un humano, muchísimo más y la única forma para combatirlas será con otras IAs. Una IA podría encontrar infinitos agujeros de seguridad en sistemas, hardware, etc...

Sobre extinguirse la humanidad, si se desarrollan IAs con consciencia, que hablen entre ellas y que puedan desarrollar odio a los humanos, estás podrían crear un virus letal, por poner un ejemplo, y liberarlo, pero eso ya lo veo demasiado lejos, que no imposible, para ese entonces es muy probable que ya estemos rodeados de IAs, casas inteligentes, la gente ya no conducirá coches, todo estará automatizado, etc... Realmente no veo eso posible tan pronto, aunque si veo posible que un gobierno como el chino, intentando desarrollar armas biológicas usando IA tenga una fuga en un laboratorio.

Facebook tuvo que desconectar dos bots que se pusieron a crear un lenguaje nuevo para hablar entre ellos mismos y que demostraron aversión a los humanos, afortunadamente estaban en un entorno cerrado, pero imagínate que se volcasen a la red y empezasen a infectar ordenadores y a replicarse.

Si se puede usar para crear el bien, también se puede usar para el mal, y los humanos no somos 100% buenos https://www.elconfidencial.com/tecnologia/novaceno/2023-05-29/inteligencia-artificial-superbacterias-antibioticos_3637538/

Algunos pensáis que la IA es simplemente un chatbot desde un portal web y no es así para nada.

5
X

Yo tengo un punto de vista totalmente opuesto. Pienso que servirá para mejorar al ser humano, física e intelectualmente.

Netzach

Cualquier supuesto o payasada que digan ya se trató durante el siglo XX con filósofos y científicos como Isaac Asimov.

B

.

Puni

Hay algo que la gente que no entiende y es que una IA podría destruir a la humanidad y no "odiar" a los humanos, simplemente que ese sea uno de los pasos necesarios para ser eficiente en su tarea. Como decís, estas cosas ya se han contemplado por filósofos y pensadores, pero no creo que casi ninguna de las empresas que están como locas por sacar el próximo Midjourney o el próximo ChatGPT estén poniendo mucho énfasis en esto.

Esta historia corta de Wait but why es un buen ejemplo de como una IA no general, mal acotada podría liarla parda:

Turry, la IA que escribía notas a mano

Y si queréis el post completo https://waitbutwhy.com/2015/01/artificial-intelligence-revolution-2.html

1 respuesta