Alguns sistemas AGI são arriscados demais para serem lançados? Meta diz isso.

Parece que desde que a AI entrou em nosso mundo, os criadores colocaram um pé de chumbo no gás. No entanto, de acordo com um novo documento político, o CEO da Meta, Mark Zuckerberg, pode diminuir ou interromper o desenvolvimento de sistemas AGI que são considerados “alto risco” ou “risco crítico”. AGI é um sistema de IA que pode fazer qualquer coisa que um humano possa fazer e e Zuckerberg prometeu torná -lo disponível abertamente um dia. Mas no documento “Frontier AI Framework”, Zuckerberg admite que alguns sistemas de IA altamente capazes não serão lançados publicamente porque podem ser muito arriscados. A estrutura “se concentra nos riscos mais críticos nas áreas de ameaças de segurança cibernética e riscos de produtos químicos e armas biológicas. ” Veja também: Mark Zuckerberg dobra a submissão de Meta a Trump “, priorizando essas áreas, podemos trabalhar para proteger a segurança nacional e promover a inovação. Nossa estrutura descreve uma série de processos que seguimos para antecipar e mitigar riscos ao desenvolver sistemas de IA da fronteira”. Um comunicado de imprensa sobre o documento lê. Velocidade de luz mashable Por exemplo, a estrutura pretende identificar “possíveis resultados catastróficos relacionados a riscos cibernéticos, químicos e biológicos que nos esforçamos para prevenir”. Ele também realiza “exercícios de modelagem de ameaças para antecipar como diferentes atores podem procurar abusar a IA da fronteira para produzir esses resultados catastróficos” e possui “processos em vigor para manter os riscos dentro de níveis aceitáveis”. “Se a empresa determinar que os riscos são muito altos, ela manterá o sistema interno em vez de permitir o acesso público. Veja também: Mark Zuckerberg quer mais ‘energia masculina’ na América corporativa “, enquanto o foco dessa estrutura está em nossos esforços para antecipar e mitigar os riscos de resultados catastróficos, é importante enfatizar que a razão para desenvolver sistemas avançados de IA no primeiro O lugar é por causa do tremendo potencial de benefícios para a sociedade dessas tecnologias “, diz o documento.