Elon Musk cuestiona que Microsoft reduzca su equipo de ética de IA después de hacer lo mismo en Twitter

La inteligencia artificial está teniendo un gran momento en este momento en la industria tecnológica. ChatGPT de OpenAI se convirtió recientemente en la aplicación de más rápido crecimiento en la historia. Las grandes empresas tecnológicas como Google están tomando medidas para llevar la IA a sus productos principales.

Con las cosas moviéndose tan rápido en este auge de la IA, las salvaguardas y las reglas éticas para proteger a los usuarios serán especialmente importantes. A medida que las empresas prueban cosas nuevas con IA, es importante que no dejen que el usuario se desvíe de forma segura.

Por eso es preocupante escuchar noticias como esta. Como se informó originalmente por Plataformas(Se abre en una nueva pestaña) a principios de esta semana, Microsoft despidió a todo su equipo de ética y sociedad de IA en medio de su más reciente despidos. En total, 10.000 empleados fueron despedidos de la empresa.

Sin duda, es una decisión cuestionable de Microsoft, una empresa que quizás se ha volcado más en la IA que cualquiera de las otras grandes empresas tecnológicas. El gigante informático ya ha integrado chatbots y asistentes impulsados ​​por IA en muchos de sus productos, como Bingel Borde navegador web y su conjunto de microsoft 365 productos como Word, Powerpoint y Outlook.

Una persona notable que cuestionó la decisión de Microsoft es Tesla, SpaceX y el CEO de Twitter, Elon Musk.

Es posible que el tuit haya sido eliminado
(se abre en una nueva pestaña)
(Se abre en una nueva pestaña)

«¿Microsoft despidió a su equipo de seguridad de IA?», tuiteó Musk junto a un enlace(Se abre en una nueva pestaña) al informe de Ars Technica sobre las noticias.

almizcle ha sido bastante(Se abre en una nueva pestaña) una voz crítico(Se abre en una nueva pestaña) del actual(Se abre en una nueva pestaña) estado de la IA, por lo que su publicación no es del todo sorprendente.

«No hay supervisión regulatoria de la IA, que es un importante problema,» tuiteó(Se abre en una nueva pestaña) Almizcle en diciembre. «¡He estado pidiendo una regulación de seguridad de la IA durante más de una década!»

«OpenAI se creó como una fuente abierta (por eso la llamé IA abierta), una empresa sin fines de lucro para servir como contrapeso a Google», dijo Musk en otro Pío(Se abre en una nueva pestaña), haciendo referencia a su tiempo con OpenAI en sus primeros días. «Pero ahora se ha convertido en una empresa de código cerrado y máxima rentabilidad controlada efectivamente por Microsoft».

Sin embargo, lo interesante es que Musk despidió al propio equipo de seguridad de inteligencia artificial de Twitter. Noviembrepocos días después de que adquiriera la empresa. cableado(Se abre en una nueva pestaña) habló originalmente con miembros del equipo de Ética, Transparencia y Responsabilidad de ML de Twitter poco después de la primera ronda de despidos de Musk en la empresa. Otro ex integrante del equipo. tuiteó(Se abre en una nueva pestaña) en el momento en que todos menos uno fueron despedidos. No está claro si ese individuo todavía trabaja en la compañía después de que Musk llevó a cabo un serie de adicional despidos

El equipo participó en importantes proyectos e investigaciones sobre cómo la empresa utiliza la IA. Por ejemplo, en 2020, muchos usuarios de Twitter comenzaron a notar que la plataforma mostraba sesgo racial en cómo recortaba las fotos. El algoritmo de Twitter centraba automáticamente las caras blancas al recortar cómo se mostraba una foto en el feed. El equipo de inteligencia artificial ética de Twitter investigó lo que había sucedido, publicó sus hallazgos para que todos los leyeran y comenzó a ofrecer una recompensa por errores a los usuarios para solucionar mejor este problema específico.

Microsoft todavía tiene una Oficina de IA responsable activa, según Platformer. Sin embargo, el equipo específico que fue despedido supuestamente «desempeñó un papel fundamental para garantizar que los principios de inteligencia artificial responsable de la empresa se reflejen realmente en el diseño de los productos que se envían».

Elon Musk tiene razón al señalar la cuestionable decisión de Microsoft de dejar ir a ese equipo. Pero entonces eso plantea la pregunta: ¿por qué Musk despidió a un equipo encargado del mismo trabajo en Twitter? Eso también parece una decisión bastante cuestionable.