Extinción de la humanidad por la IA. Según sus creadores

Ulmo #91 May '23

#90 Porque no hay nadie que pueda desplazarnos como especie. Si las sociedades colapsan y volvemos a la época de palos y piedras, ¿qué va a evitar que la especie humana se mantenga como agricultor/recolector? Para una extinción necesitas o bien un competidor que te supere en eficiencia o un cataclismo ambiental que arrase con tu población.

Siendo una especie que habita todo el planeta y con conocimientos técnicos para adaptarse a todos los climas, no se que cataclismo ambiental pueden generar las IAs para que nos extingamos. Y no hay ninguna especie con posibilidades de reemplazarnos, robos inteligentes que nos reemplacen es pura ciencia ficción y no forma parte de la actual revolución de las IAs (en un futuro más lejano, ya discutiremos si eso).

3 respuestas

kraqen #92 May '23 Abe Sapien

#91 De lo que están hablando en la carta es precisamente el escenario cara 10-20 años donde la integración de estos modelos en todo nuestra sociedad (tanto en producción, logística, seguridad, militar, gobierno, etc.) nos acabe desplazando porque la IA puede realizar todas nuestras tareas (AGI) y al poco superarnos en todas (ASI).

Ignorar eso y pensar solo en lo actual es hablar de una cosa muy distinta de lo que están advirtiendo. Que es otro riesgo y un problema que tendremos ya mismo, pero es completamente diferente.

usarmy #93 May '23

Para una IA sería un juego de niños suplantar a un gobierno como el chino. Convertir winnie de pooh en un títere de manera más efectiva a como hacen los mercados. Esto hara que cualquier gobierno tenga que estar representado por una IA salvaje por miedo a que lo controle otra externa.

wHiTefOx #94 May '23

#91 sin darle mucho al coco, fabricar un virus letal de verdad xD

Zelmete #95 May '23 fsociety

pues a ver si lo aplican en los juegos de estrategia, que menuda mierda tenemos aún.

1 respuesta

richmonde #96 May '23 FF True Fan

#95 Eres consciente que las "IAs" de los juegos de estrategia, estan pensadas para que incluso el hard mode o el mas jodido, puedas pasartelo?

Porque ya te digo que una IA buena, no hay peter que se lo pase.

2 respuestas

CAFE-OLE #97 May '23

#96 las ia de los juegos de estrategia son malas a rabiar, y en la mayoria de los casos hacen trampas con recursos.

El riesgo de una IA realmente inteligente, es que puede aprender cualquier cosa, modificarse asi misma, y asi mejorar exponencialmente, sois conscientes de lo que podria hacer una megainteligencia conectada a internet?
Nos puede hundir la civilizacion en cero coma, control de trafico aereo, banca, centrales electricas....

#91
Si la IA alcanza o supera al homo sapiens los robots estaran a la vuelta de la esquina, por la sencilla razon de que se podran enseñar asi mismos hacer todo tipo de tareas, y no habria ya que entrenarlos ni la motricidad mas basica

Zelmete #98 May '23 fsociety

#96 la mayoría a los que juego le meten un x5 en recursos, ataque, etc y a volar. me molaría buenas estrategias y situaciones con mas sentido y se adapte. Sobre todo en juegos con diplomacia.

Wasd #99 May '23

#8 Imagino que lo preguntas porque has usado el traductor de google.

Ese "from" indica origen, mientras que en castellano, el "de" es ambiguo, pudiendo significar tanto origen (de la extinción) como destinatario (del intento de mitigación).
En este caso, se refiere al origen de la extinción (IA).

Por eso es importante leer las fuentes originales, porque normalmente son menos ambiguas.
No lo digo por ti, lo digo en general.

On-topic. Sin saber si es un mensaje alarmista sin mas o algo realmente serio, me parece por lo menos interesante si realmente todas esas personalidades están de acuerdo en firmarlo...

Kr4Zy #100 Jun '23

MaTrIx #101 Jun '23 Maker Incomprendido

Skynet se alzará

2 respuestas

M0E #102 Jun '23 meneador

#101 La noticia más que el que haya sucedido, es que lo han desclasificado y publicado por algo.

1 1 respuesta

Maur #103 Jun '23

#101 #102 Caso desgraciadamente frecuente de teléfono escacharrado entre la realidad inicial y lo que se acaba difundiendo gracias a copiar noticias, traducir y el poco rigor periodístico. Aunque en este caso la culpa es más del militar y la fuente original, pero el abc no va a corregir la noticia.

[UPDATE 2/6/23 - in communication with AEROSPACE - Col Hamilton admits he "mis-spoke" in his presentation at the Royal Aeronautical Society FCAS Summit and the 'rogue AI drone simulation' was a hypothetical "thought experiment" from outside the military, based on plausible scenarios and likely outcomes rather than an actual USAF real-world simulation saying: "We've never run that experiment, nor would we need to in order to realise that this is a plausible outcome". He clarifies that the USAF has not tested any weaponised AI in this way (real or simulated) and says "Despite this being a hypothetical example, this illustrates the real-world challenges posed by AI-powered capability and is why the Air Force is committed to the ethical development of AI".]

https://www.aerosociety.com/news/highlights-from-the-raes-future-combat-air-space-capabilities-summit/

Vamos, que es una paja mental que podemos pensar cualquiera. Plausible es pero dista mucho de la noticia.

2

B

[Borrado] #104 Jun '23

La era de Skynet comienza.

Usuarios habituales

Tags