Yoshua Bengio lanza LawZero, un laboratorio de seguridad en IA sin ánimo de lucro
El premio Turing crea una organización con 30 millones de dólares en fondos filantrópicos. La iniciativa busca desarrollar sistemas de IA más seguros, inspirada en la Ley Cero de la Robótica. Bengio criticó a OpenAI y Google por priorizar la inteligencia artificial sobre la seguridad.
«Proteger a la humanidad por encima de todo»
El laboratorio LawZero, presentado este lunes al Financial Times, recibe su nombre de la Ley Cero de la Robótica, un concepto de ciencia ficción que antepone la seguridad humana. Bengio, considerado uno de los «padres» del actual auge de la IA, ha sido un «firme defensor» de la regulación, apoyando incluso la polémica ley SB 1047 en California.
Financiación y objetivos
La organización ha recaudado 30 millones de dólares de donantes como el ingeniero de Skype Jaan Tallinn, el exdirectivo de Google Eric Schmidt y el Instituto Future of Life. Bengio expresó en la entrevista que «no confía» en que las grandes tecnológicas prioricen la seguridad en su carrera por sistemas más avanzados.
Un referente en la seguridad de la IA
Bengio, ganador del premio Turing, ha pasado de ser un pionero en inteligencia artificial a uno de los «voces más críticas» sobre sus riesgos. Su apoyo a leyes como la SB 1047 refleja su postura: evitar escenarios catastróficos derivados del desarrollo sin control de la IA.
De la ficción a la realidad
La Ley Cero de la Robótica, popularizada por Isaac Asimov, plantea que un robot no debe dañar a la humanidad. LawZero adopta este principio en un momento de creciente preocupación por el impacto de la IA, con Bengio liderando el debate desde el ámbito académico y ahora con esta iniciativa.
Un laboratorio con visión de futuro
La creación de LawZero marca un paso más en la regulación de la IA, con Bengio como figura central. Su enfoque en la seguridad, respaldado por fondos filantrópicos, contrasta con la estrategia de gigantes tecnológicos y podría influir en futuras políticas globales.
