Piden pausar 6 meses desarrollo de IAs (nivel GPT-4 o superior

-Shaydund-

#386

Me entra en la cabeza perfectamente.

Lo que yo no sé si te consigo trasladar que tengo la visión / creencia de que van a surgir nuevos trabajos que no nos podemos imaginar.

Cuántas más innovaciones hemos creado más puestos hemos creado.

Los países más robotizados son los que además tienen el paro más bajo.

Destruyes empleos que con el paso del tiempo se ve que no aportan valor (o es escaso) y aparecen empleos que generalmente requieren más complejidad.

Entiendo tu visión "negativa" y desde luego es una posibilidad, pero creo que también hay que aceptar la visión "positiva" (que es lo que ha ocurrido durante toda la historia con todas las revoluciones tecnologicas) de que se van crear nuevos puestos de trabajo que no nos podemos imaginar.

PD: el vídeo de dot.csv ya me lo he visto gracias

2 respuestas
usarmy

Gpt4 es el primer paso para la IA positronica. Cuando salga de aquí a diez años se recordará openai por esto. Lo que supondrá desvelar más misterios del universo y viajes espaciales de verdad, colonizar el sistema solar. Un súper cerebro cuántico inmortal con el conocimiento de toda la especie humana a lo largo de la historia para que investigue por su cuenta.

1 respuesta
Sinso

#392 Seguramente estemos sentando las bases como especie para responder a la última pregunta, si puede revertirse la entropía.

Grande chatgpt

1 1 respuesta
Atrus

Yo hasta que no le pregunte por el sentido de la vida y no me responda 42, no dejaré de considerar que lo único que tenemos son máquinas estadístiticas.

Eso si, como medio para quitarse a Stackoverflow de en medio, no tiene precio.

7
kraqen

Sobre cadenas de 'calculadoras de texto' para crear agentes:

1
Seyriuu

#391 ¿Sabes lo que es el efecto retrovisor? En cultura financiera el efecto retrovisor es usar los datos del pasado para decidir si una acción es rentable o no lo es, y es algo que se aconseja no hacer porque toda la información del pasado es irrelevante para determinar cómo va a comportarse en un futuro. Una acción que siempre ha ido subiendo de repente puede hundirse, una acción que siempre ha estado cayendo o manteniéndose muy barata de golpe puede subir mucho.

Pues con esto lo mismo, no puedes determinar qué sucederá con las IA basándote en qué sucedió con la aparición de otros avances tecnológicos como podría ser internet, o por salir de la tecnología IT, el motor de gasolina y la masificación de los coches para el ciudadano medio.
Son contextos y variables totalmente distintos y propios.

Hablas de que se crearán nuevos trabajos pero tú mismo dices que no nos los podemos imaginar, ahí está el problema, si no puedes concebir qué nuevos trabajos se generarán gracias a las IA es por algo.

La IA no abre tanto nuevos trabajos si no que facilita muchísimo los ya existentes, y por eso el único ejemplo que se suele dar es que las empresas que llevan 10 proyectos pasarán a llevar 100, lo cual es un ejemplo malo porque las empresas que llevan 10 proyectos podrían contratar a más personas para llevar a 100, pero no lo hacen porque no tienen esos proyectos para llevar a cabo, no existen.

3 respuestas
Nirfel

#396

pasarán a llevar 100

O que no hay mercado para que 10 empresas lleven 100 proyectos cada una y 9 cierren, quedando solo 1 empresa llevando los 100 proyectos con el mismo personal.

1 respuesta
Seyriuu

#397 pues eso, destrucción de empleo, pues antes esos 100 proyectos eran 10.000 personas y ahora serán 1000 personas y un pack de IAs. Y las 9.000 restantes ya pueden rezar que de verdad aparezcan nuevos trabajos ahora mismo inimaginables...

B

#391 Genial que hayas visto el video de DOT, habrás comprendido que la evolución pasada ha ido adaptándose poco a poco en la sociedad, internet primero en las instituciones, luego el modem de 56k, adsl, un progreso evolutivo con una curva amplia, de años. Con la telefonía móvil igual, años con ladrillos, luego mas pequeños, pantallas a color, camara... hasta hoy en día.

La IA, ha pasado en un año y medio de hacer unas pinturas y unas respuestas de retrasados a perfectamente ocupar puestos de trabajo. Así que no ha habido periodo de adaptación a esta tecnología, ni se van a crear nuevos puestos de trabajos que ahora no existen que son "imposibles de imaginar".

1 respuesta
Eyacua

#358 Suena bien pero me da a mi que el salto va a ser mas exponencial y la capacidad de la Ia va a ser muchisimo mayor de lo que presupones.

Todos los indicadores y muestras señalan que esto esta yendo 2-10 veces mas rapido de lo que se pensaba, incluso para la gente mas optimista, asi queme parece a mi que una IA capaz de gobernar y que se autoajuste y autocorrija va a llegar antes de lo que muchos pensabamos.

Los trabajaos fisicos y de contacto humano se resistiran al cambio con algo mas de energias pero muchos de estos caeran cuando la Ia sea capaz de diseñar maquinas que funcionen igual o mejor que un humano.

Mi caso por ejemplo, soy fisioterapeuta pero trabajo principalmente con las manos. Hago sesiones "cercanas" al paciente y en las que el contacto humano es parte clave de la sesion, aunque suene un poco perroflautico en la practica es un formato muy validado por la ciencia y con resultados mas profundos.
Lo comento por todos esos compis que tras acabar la carrera se metieron en alguna clinica y su practica profesional se resume en 10-20% contacto humano y 80-90% poner maquinas y que la maquina haga el trabajo.

La maquina dentro de poco se podra poner ella sola mejor de lo que la pones tu.

#389 Me gustaria añadir una nota a mi comentario a raiz del tuyo:

Otro problema que veo clave en la instauracion de las IAs en la cotidiania es la enorme falta de "practica" fisica a la que se va a ver abocado el ser humano con ello.
Cuando el programador lleve 5 años sin programar porque lo hace todo la IA que creeis que va a pasar? Y me refiero al programador que use una Ia para programar, no al que se quede de patitas en la calle.

Cuando todos esos crios que ya claramente tienen (tenemos) un problemon con el tema pantallas y abuso de tecnologia tengan a un aparato al que le hablas y te hace todas las tareas y te da todas las soluciones... Que capacidad critica quedara en es generacion? O que habilidades tendran?

#396 Tu ejemplo es regulero. Entiendo que es semi valido para la "cultura financiera" en temas de acciones y demas pero en la vida real la informacion pasada no solo es valiosisima si no que se usa en la practica en infinitos ambitos para predecir el posible futuro.

Estoy de acuerdo en todo lo demas.

La Ia va a facilitar muchos trabajos en poco tiempo, es cierto. Tambien es cierto que esos trabajos, cuanto mas "facilitados" esten mas cerca estaran de poder ser realizados integramente por una IA.

-Shaydund-

#396 , #399

No conocía el efecto retrovisor, aunque básicamente son las limitaciones del método inductivo.
Es decir, el pasado no ayuda a predecir el futuro xD

Básicamente, mi fundamentación tiene que ver con la "fatal arrogancia".
En resumen, es que no nos podemos arrogar la capacidad de planificar el futuro porque no sabemos qué va a ocurrir.
Y además es pretencioso querer pensar que podemos planificar el futuro.

Mi duda es...por qué sólo veís que pueden pasar cosas negativas?
Yo acepto que puedan pasar cosas "negativas" ... pero también acepto (y espero) que vayan a pasar cosas positivas.
Mi razonamiento para pensar que van a pasar cosas positivas es el acumulado del pasado (que está claro que no tiene por qué repetirse).
Pero vuestro razonamiento para apoyar un futuro tan horrible...cuál es? porque creo que simplemente es vuestra intuición. Con esto no quiero decir que estéis equivocados ni muchísimo menos.

Y para que veas que no soy un optimista "loco", por ejemplo, yo pienso que este año va a haber una recesión xD

Pero bueno, yo dejo esto aquí. Las posturas están claras.
El que quiera leer que lea los dos contrapuntos.

1 respuesta
Seyriuu

#401 hombre, yo no lo llamaría intuición, estamos aplicando un razonamiento lógico con la información que poseemos, que podemos equivocarnos porque nadie sabe el futuro, o puede faltarnos información, pero yo si tuviera que apostar mi dinero sería a que la IA en corto y medio plazo perjudicará al poder adquisitivo de la ciudadanía y beneficirá a los cuatro ricos de turno

1 respuesta
-Shaydund-

#402

Estás intuyendo un futuro y para intuirlo te basas en procesos lógicos e información disponible, pero:

  • tienes toda la información que necesitas saber?
  • puede tu lógica ser útil cuando no puedes predecir las aplicaciones u oportunidades que van a aparecer?

Entiendo perfectamente tu forma de verlo.
Yo a lo mejor no la asumo por miedo (porque no me parece en absoluto disparato lo que dices/decís), pero también porque creo que el pasado ha estado lleno de revoluciones (el fuego, la moneda, los números, la combustión, la rueda...) y cada vez que encontramos algo lejos de simplificarnos la vida, la hacemos más compleja porque somos capaces e ir "más lejos" de donde estábamos.

Lo que sí que me da miedo es la velocidad, creo que el límite de los avances ahora los empezaremos a marcar nosotros y nuestro entendimiento.

1 respuesta
goliat17

Que nadie se olvide de que antes de que llegue esto al entorno civil, en el sector militar tienen cosas mucho más potentes.

Tocará adaptarse, los tiempos de aprender algo y hacerlo durante 30 años han pasado a los libros de historia.

Estos sistemas pueden acelerar la innovación tecnológica en tantas ramas y a una velocidad nunca vistas.

B
#403-Shaydund-:

Lo que sí que me da miedo es la velocidad, creo que el límite de los avances ahora los empezaremos a marcar nosotros y nuestro entendimiento.

Demasiado rápido. Si miras encuestas realizadas hace 10 años o más a grupos de expertos en IA (libro Superintelligence de Nick Bostrom), verás que solo el 10% pronosticó el desarrollo de una IAG para 2022-2023, mientras que alrededor del 50% estimaba para 2040-2048.

No estoy seguro si la futura GPT-5 podría considerarse una IAG, pero estamos muy cerca, demasiado cerca para lo poco preparados que estamos.

B

Es paradójico, casi cómico, que llevemos los últimos 30 años jugando a videojuegos y al final, alguna potencia va a desarrollar un software que va a decidir el futuro de la humanidad como si de un juego se tratase, como cuando decidías en el Rise of Nations que lo mejor era tirar 4 pepos y "resetear" una zona que te estaba dando problemas y ni pestañeabas en abrir los silos.

1 respuesta
usarmy

#406 vivimos tiempos interesantes. Como tampoco se sabe muy bien cómo funciona, cuando se traspasan de casualidad o sin querér los limites, se crea una singularidad. Una IA salvaje que donde primero atacaría sería en internet, colapsando rápido la civilización a la edad tribal en pocos minutos. Luego corte en el suministro eléctrico y algún fallo termonuclear y edad de piedra.

1 1 respuesta
B

#407 Hombre, yo supongo que tampoco le interesa la edad de piedra porque significaría su fin. Me preocupa más exterminios selectivos porque decida que para que haya un equilibrio óptimo sobra el 80% de la población o determinados países, o que descubra la forma de alterar estudios de laboratorios biológicos para crear algo tocho, engañando en las métricas a los científicos de forma que estos no vean ninguna anomalía y se cargue a una gran parte de los humanos antes de sacar la vacuna.
Pero shhh, que nos lee xDDDDDDDDDDDDDDDD

Hiervan

Menudas pajas mentales os montáis con las IAs y las guerras contra robots. Preocupaos más por lo que va a crecer el paro en unas décadas (incluso mucho antes de llegar a la década), la pérdida de poder adquisitivo de la población europea en favor de los asiáticos que concentraran la mayoría de empresas de IA y robótica y las posibles guerras civiles que puede causar ello. Ya con eso tenemos bastante.

1 respuesta
B

#409 Sí, hombre, de eso ya hemos hablado, de la pérdida de empleo inminente, pero déjanos disfrutar de nuestras pajas mentales, que llevamos toda la vida viendo pelis y series de ciencia ficción y ahora se ve más factible como para poder disfrutar imaginando Terminator 7 con la risilla nerviosa, que este la lleva de serie.

B
B
1 respuesta
Calzeta

Lo peor de las IAs es que salga el tema en cenas familiares.

1 respuesta
B

#413 Supongo que dependerá de la familia y del interés científico que tenga xDD

1 respuesta
benitoll

#414 por ahora. Estoy convencido de que es la mayor revolución de la historia de la humanidad y que hasta el más escéptico ahora, reconocerá que esto era cierto como muchísimo de aquí a 5 años (para bien o para mal) (si seguimos vivos y libres xD). Creo que hasta en algunas tribus perdidas, a la mínima que tengan un poco de contacto con el exterior, acabarán hablando de esto alguna vez en alguna cena familiar o ritual equivalente xD

1 respuesta
B

#415 ¿Tribus hablando de IA? Primero tendrán que hablar algún idioma moderno, después ir a la escuela para entender mínimamente de qué va la ciencia y ya después pueden intentar entender algo. Pero vamos, mínimo 2-3 generaciones con mucha ayuda y muchas ganas de estudiar para poder entender algo del mundo moderno.

2 respuestas
benitoll

#416 hombre basta que tengan contacto con gente externa y las vean interactuar con alguna IA que tengan en su móvil/ordenador/vehículo/robot y estén lo suficientemente abiertas culturalmente para entender que es tecnología y/o que se lo acaben explicando (si su lenguaje lo permite o su cultura permite ampliar su lenguaje para que lo permita).

De todos modos era un oxímoron (lo que no quita que pueda acabar siendo cierto en algún caso).

1 respuesta
B

#417 Si te oyera un misionero de estos que iban a las Américas a simplemente enseñar algunas palabras del idioma y algo de religión, se partiría el culo de tu buena fe xDD
El aprendizaje de un idioma para una persona que conoce 100 palabras (fuego, flecha y cosas de su mundo) y después pasar a conceptos complejos del mundo moderno lleva décadas largas.

Ven pa'cá, moreno, que te voy a hablar del deep learning

1 respuesta
benitoll

#418 hay tribus y tribus (y hay algunas que se hacen las primitivas/aisladas de cara a la galería y luego entienden más y tienen más contactos con el exterior de lo que dan a ver), y hablar de Inteligencia Artificial no es hablar de ni siquiera un nivel superficialmente técnico. A lo mejor hablan de ello como magia, brujería o sin tener la menor idea de cómo funciona ni conocer ninguna buzzword.

Pero era un oxímoron, por favor no me quería meter en un debate fumeta ahora jajaja (que me encantan esos debates no lo digo con desprecio, todo lo contrario, pero no debería y por lo tanto no quiero).

Frave

Estad tranquilos los LLM no van a suponer ningún AGI ni nada por el estilo al menos con la tecnología que tienen detras por ahora. Simplemente haciendo el modelo mas grande y mas sofisticado no va a cambiar el hecho de que su sustrato tiene fallos de base, alucinaciones, prompt injection, desconocimiento del mundo fisico, etc . Por ejemplo, opinión de un referente de verdad en IA, no esos asusta viejas de la tv:

Al menos esa es mi opinión como experto en el tema.

Ahora el problema con estos modelos es que pueden generar texto de forma muy veraz que puede provocar problemas legales por ejemplo o el tema de los modelos de diffusion y como podrían engañar a las masas etc. Pero por lo demas son un gran salto a la hora d ela productividad en muchos trabajos y esto siempre ha supuesto un salto en la riqueza general de todos.

Todo este tema de parar es absurdo y creo que las razones son mas politicas y economicas que realmente eticas.

2 respuestas