La super inteligencia artificial es inminente - Daniel Kokotajlo, OpenAI

#89 es curioso porque generalmente las IA acaban por desarrollar sesgos o prejuicios al cabo de un tiempo mediante el aprendizaje. Por ejemplo, en ciertos modelos cuando le preguntan por fotos de presos al final enseñan solo presos de color negro o cuando le preguntan por fotos de CEOs son solo hombres blancos mayores.

Solo espero que la IA sea americana, de lo contrario más pronto que tarde terminará petando un barco americano en costa china, o cualquier otro gambito/atentado que esta vez si, desencadene la tercera guerra.

Primero tendrían que entender que es la inteligencia. Luego ya si eso que desarrollen una. Pensar que ChatGPT tiene algún grado de inteligencia es desconocer lo que es la inteligencia.

#87

Es que no solo eso, fue precisamente en 2019 cuando Microsoft metio por primera vez la puntilla en OpenAI.

Al final, es lo mismo, como con el Metaverso o la matraca que dieron (y parece que vuelve) con la conducción autónoma, que los camioneros se quedaban sin curro.

Humo para los inversores.

Al final seguimos a la espera de que saquen una AGI ASI PASI MAGI y la que los parió, que entienda lo que hace.

De la misma manera que Stockfish sigue sin entender porque mueve las piezas en el ajedrez, hace una simulación de millones de partidas y la sale que ese es el mejor movimiento. Pero entender, no entiende nada. Y de que DeepBlue venciese a Kasparov ya hace 30 años, y Stockfish lleva desde el 2008.

#106

Es que no lo entiende

#106PhDfailer:

Para ti no entiende = no lo entiende como un cerebro humano?

Stockfish tiene que hacer millones de simulaciones para cada movimiento, pero no entiende el porque de cada movimiento. Un ajedrecista profesional usa Stockfish para ver que movimientos salen con mayor % de victoria, PERO ES EL el que tiene que en última intancia analizar los movimientos que le dice Stockfish.

Por ejemplo, no entiende algo que se dieron cuenta hace ya tiempo de porque es importante ganar el centro, simplemente hace una simulacion de 100millones de partidas y resulta que le sale mover piezas para ganar el centro del tablero tiene alto % de victoria. Con el tiempo personas, programadores, etc, pueden añadir comentarios a movimientos básicos, pero en última instancia Stockfish no entiende nada.

#106PhDfailer:

Como puedes afirmar que no entiende el ajedrez si le da un repaso a cualquier ser humano?

Porque gana por pura ¨fuerza bruta¨. Es capaz de calcular a decenas de movimientos en el futuro, sin más. Capablanca no tenía que calcular una mierda, ENTENDÍA el juego. El ajedrez es un juego con variables definidas y información completa, y por eso un ordenador con potencia de computación siempre podrá ganar a un humano, pero no por entender el juego.

Usaís muy a la ligera las palabras como inteligencia, y lo único que vemos con ChatGPT y demás es el resultado de tener ordenadores con más potencia de búsqueda de datos, cálculo, etc.

#110bkrs:

Capablanca no tenía que calcular una mierda, ENTENDÍA el juego.

Yo pienso que lo que han puesto de manifiesto los módulos es que quizás las personas creyésemos entender el juego cuando realmente estábamos equivocados en muchos aspectos.

#91 Para nada es contradictorio, las personas se equivocan y obtienen vivencias diferentes.

Hago la asunción q una máquina no se va a equivocar. Una IA nunca tendrá una pareja tóxica, porque le pondrás las reglas no cuadrara y pasara a la siguiente. La gracia del ser humano es la falta de logica concreta en sus acciones.

El libre albedrio q le llaman, una máquina nunca podrá tener eso, al menos no como esta evolucionando la tecnología actual.

#92 Eso no son sesgos, son matematicas, tienes cientos de estadísticas en USA donde los negros cometen, en proporción, mas crimenes q los blancos, por lo q la probabilidad de encontrar un negro delincuente es mayor. Depende de como se haya entrenado. Que Gemini muestre negros no es sesgo ni azar, es haberla 'enseñado' asi.

#97 Si te quedas en una parte de lo q pongo ... Ya he dicho q son reglas , y tambien he dicho q cada persona tiene las suyas en base a vivencias abstractas y entendimiento de esas vivencias ... La maquina siempre va a entender lo mismo. Tu puedes tener un objetivo de tener hijos, enamorarte de alguien, y q esa persona no pueda tener hijos ... ¿La vas a dejar? Pues a lo mejor no, y buscáis alternativas como la adopción. Una máquina, si esta programada para buscar una pareja y tener hijos, si no puede tenerlos, obviara a esa persona porque no cumple los requisitos.

Y hablo del modelo de IA actual, en unos años a saber lo q hace, actualmente el modelo es lo es.