Más País: Propuesta crear una Agencia Estatal de Algoritmos

Frave

El diputado de Más País ha presentado en el Congreso la propuesta crear una Agencia Estatal de Algoritmos para regular su aplicación al trabajo, conocer si discriminan o saber cómo afectan las redes sociales a la salud mental. En el siguiente corte lo explica el bueno de Iñigo.

En estas declaraciones resalta otras noticias, como las de unos despidos en Rusia generados a través de un análisis realizado por un algoritmo, y el de facebook que sabia que su algoritmo predispone al enfrentamiento, a la división y al enfado, ya que estos sentimientos generan por lo general que los usuarios estuvieran mas tiempo en facebook.

Noticias de estos sucesos:

https://www.eleconomista.es/economia/noticias/11354137/08/21/Me-puede-despedir-un-algoritmo-por-ser-improductivo-teletrabajando-En-Rusia-ya-esta-pasando.html

https://www.businessinsider.es/facebook-promovio-algoritmo-fomentaba-discusiones-932235

¿Qué opina MV? ¿Necesitamos en España un observatorio para verificar que los algoritmos no son discriminatorios o atentan contra la salud mental o si incumplen alguna ley? ¿Deberían los algoritmos poder decidir si somos productivos o no? ¿serían despidos procedentes?

Mi opinión.

Traigo esta noticia a MV ya que me dedico precisamente al machine learning y se me antoja complicada la tarea de este observatorio si se crease. Por un lado, normalmente los sesgos de un algoritmo moderno vienen generados mas por las bases de datos que por los ingenieros, aunque estos si pueden paliar estos sesgos si saben que la base de datos los contiene. Por otro lado encontrar estos sesgos no es tanto ver el algoritmo, ya que hoy en día son redes neuronales que prácticamente el mismo algoritmo te clasifica coches o te identifica el sexo de una persona, la diferencia son los datos con los que se ha entrenado. Normalmente estos problemas de discriminación o confusiones desafortunadas, como por ejemplo confundir negros con monos (https://www.bbc.com/news/technology-58462511) se descubren mas viendo los resultados del algoritmo, no viendo el algoritmo per se. Otra forma de descubrirlo, pero mucho mas compleja, sería analizando los datos de entrenamiento pero claro aquí hay temas de privacidad o de alcance, ya que las bases de datos de un google o un facebook serían inabarcables para unos funcivagos.

Por otro lado tenemos que si es ético, o digamos si debería ser legal, que un algoritmo que no tenemos muy claro por qué toma su decisión te dictamina que tal persona es improductiva y hay que despedirla, esto ya es un tema complicado. Por otra lado tenemos la pregunta de ¿esto debería considerarse un despido procedente?. Personalmente creo que para que un despido sea procedente deberían aportarse los datos concretos y que sean contrastables (datos concretos de productividad por ejemplo), y no que lo diga un algoritmo, ya que este puede manipularse para que diga lo que queramos y así tirar gente a la calle sin razones.

Finalmente también me parece de muy necio pensar que las grandes empresas tecnológicas te van a dar sus modelos de IA así tan alegremente para que los del observatorio les echen un ojo y te digan si son inclusivos o no.

Pero bueno que más da otro observatorio, total nos vamos a la puta igualmente.

Bokkai

Justo estoy viedno la temporada 3 de Westwolrd. Rehoboam is coming.

Kernel0Panic
#1Frave:

¿Qué opina MV?

Que me tenía que haber quedado chupando del bote el 15M y lo mismo me habría caído un carguito de estos por 70k€ anuales.

isvidal

las matematicas son machistas

Lifecasi0

Ministerio de Algoritmos, lo veo.

2 respuestas
Sphere

Una gilipollez en la que van a enchufar a un montón de gente, lo estoy viendo venir.

¿Donde se pilla un cargo? Ya que trabajo en eso no le haría ascos a una paguita por no hacer nada, total, es lo que se lleva.

Eckooo

Visto la catintidad de memeorganismos que tenemos ahora mismo entre institutos, observatorios, comisiones, etc no se de que os reis. Este gobierno es totalmente capaz de crear esto. +1000 estomagos agradecidos mas.

K

Yo creo que no se puede ser mas parasito, este lo que quiere es una agencia de enchufados que cobren 80-100k anuales hay que ser desgraciado.

SikorZ

Pues no me parece mal tampoco, la verdad

Es curioso de toda la escena política que conozco probablemente Errejón me parece de los pocos que tienen algo de sentido común y piensan por si mismos.

También están al día con los problemas actuales, apoyan la legalización del cannabis... Si volviera a creer en la política les votaría xD

2 respuestas
B

A ver esto da para un observatorio estatal y 17 autonómicos.

2 respuestas
B

#9 Parece "mosca muerta" no te puedes fiar!!

1 respuesta
B

cambia algoritmos por censura

B

#10 pocos me parecen

SikorZ

#11 No me fio de ninguno, peor de hacerlo es lógico que me fie mas de alguien que parece tener sentido común que de políticos super radicales

Mariox93

Pues lo de las redes sociales (tecnología en general) hay que mirarlo de alguna manera, me atrevería a decir que son más adictivas que muchas drogas y pueden tener un efecto devastador, sobre todo en gente joven.

1 respuesta
k4rstico

Me veo a los funcionarios sin idea de tecnologia controlando los algoritmos de facebook o netflix, a los que probablemente ni tendrían acceso

AikonCWD

Menudo gilipollas que solo sabe que crear chiringuitos y malversar dinero público

Grise

Esta propuesta es una versión chabacana y chiringuitera de algo que ya existe y se llama Right to explanation, que entro en vigor en la UE desde 2018. Es algo que se debe abordar en primer lugar desde la investigación (es un campo joven que se llama Explainable AI) y no desde la política. Este señor lo que quiere son carguitos públicos para meter a conocidos varios.

1 respuesta
B

Como ya han dicho, gilipolleces para enchufar a más vagos a vivir del estado.

B

A mi no me parece mal en absoluto. Entendamos que hoy todo se rige por esto sobretodo en aquellos sitios dóndel a gente se le manipula muy fácilmente.

Lo de la discriminación no solo afecta al género, es también a pequeñas empresas que busquen su promoción en la web, que al final es el futuro y tú, salvo informe de google, previo facturazo, no tienes más info. Lo de la salud mental supongo que lo dice por las RRSS pero yo dejaría que siguiera tragandose a gente mediocre.

Todo esto tiene sentido si fomentas este apartado, pones gente preparada y no a las momias que debe haber en el SEPE que cualquier correo del carrefour.ru te secuestra la base de datos y para la oficina entera.

Se queda hasta corto, yo iría mucho más allá en este sentido.

1 respuesta
Drakea

#10 no te olvides la agencia de coordinación para así compartir información entre ellos y aumentar su eficiencia

1 respuesta
Zaide

Luego que si no les vota ni su madre.

1 respuesta
Contractor

#5 Me pido Secretario de Estado de Algoritmos. O Algoritmes.

1 respuesta
B

#5 Algoritmos con perspectiva de género.

La cuestión es cuándo xD

B

Preveo que le cambiaran el nombre a Algoritmas, para ser mas inclusivo

ReibenN

No sabe ya como llamar la atencion.

Grise

#20 La "gente preparada" que propones a fecha de hoy son únicamente los mejores matemáticos del planeta, que son los únicos que pueden explicar de una manera empírica (y hasta cierto punto) las decisiones de una red neuronal. Para el resto de personas con formación suficiente la única explicación que tenemos es que la toma de decisión se basa en patrones, y como comprenderás eso no es suficiente para montar una agencia.

1 respuesta
Mariox93

#18 Ya y dejar que la empresas punteras en investigación e IA hagan lo que les salga de los cojones. Gracias pero no, la política tiene el objetivo de realizar las consideraciones éticas que crea convenientes y marcar el camino que se puede y no se puede seguir, tanto en la investigación como en otros ámbitos.

Deja libre albedrío y en pocos años la gente está metiéndose chips en la cabeza para ser "más inteligente" o cortándose las extremidades para ponerse brazos y piernas "mejores" y esto sin ser alarmista.

La ciencia no puede estar totalmente descontrolada, la ética tiene un papel importantísimo en la sociedad.

1 respuesta
A

Es cierto que esas cosas existen, pero crear un chiringuito estatal de las interfaces de visual basic, que sea incapaz de cazar un resfriado y nos cueste una millonada como que no.

Porque feisbuk ha dicho que lo hacía y tal, pero estas tu que desde fuera puedes probar algo.

Frave

#15 estoy mas o menos de acuerdo, ya que las drogas se diseñan químicamente para ser adictivas, y las redes sociales se diseñan algoritmicamente para mantener al usuario lo mas pegado a la pantalla posible, normalmente aprovechando sesgos cognitivos de nuestra especie.

A mi personalmente, y mira que Iñigo no es santo de mi devoción, que al igual que ponemos en el tabaco o en el alcohol mensajes de ojo lleva cuidado, o que ponemos en las películas o videojuegos advertencias sobre violencia o sexo, o en los juegos de apuestas etc, me parece que tiene cierto sentido que se advierta explícitamente a adultos y sobretodo a menores que lleven cuidado que el uso de las RRSS puede conllevar adicción o ideas equivocadas de como es la sociedad y que deben afrontarse con cuidado, pero obviamente no prohibiría ni censuraría.

Creo que seria mas partidario de dar avisos y mas info a la población por parte de las empresas, ahora que para esto sea necesario un observatorio ya es mas discutible.