O vencedor do prêmio Turing, Yoshua Bengio, está lançando um laboratório de segurança de IA sem fins lucrativos chamado LawZero para construir sistemas de IA mais seguros, disse ele ao Financial Times na segunda -feira.
Lawzero levantou US $ 30 milhões em contribuições filantrópicas do engenheiro fundador do Skype, Jaan Tallinn, ex -chefe do Google, Eric Schmidt, Open Philanthropy e o Future of Life Institute, entre outros. O nome LawZero é um aceno para um conceito de ficção científica: a Lei Zeroth da Robótica, que coloca a proteção da humanidade acima de tudo.
O Bengio, considerado um dos “padrinhos” para o boom moderno da IA, tornou -se um dos defensores mais vocais do movimento de segurança da IA. Ele apoiou publicamente o SB-1047, o controverso projeto de segurança da IA da Califórnia, que pretendia impedir que os sistemas de IA causassem cenários catastróficos.
Em uma entrevista ao Financial Times, Bengio disse que tinha pouca fé em Openai e Google para priorizar a segurança enquanto correm em direção a sistemas de IA mais inteligentes.