A iniciativa Robust Open Online Safety Tools (ROOST) foi lançada na Artificial Intelligence Action Summit em Paris. Estabelecida no Instituto de Política Global da Escola de Relações Internacionais e Públicas da Universidade de Columbia, a ROOST é uma nova organização sem fins lucrativos que reúne a experiência, os recursos e os investimentos das principais empresas de tecnologia e filantrópicas para construir uma infraestrutura de segurança escalável e interoperável adequada à era da IA. Os sócios fundadores da ROOST incluem Eric Schmidt, Discord, OpenAI, Google, Roblox, John S. e James L. Knight Foundation, AI Collaborative, Patrick J. McGovern Foundation e Project Liberty Institute . A ROOST também se beneficia do apoio e da experiência de um amplo conjunto de parceiros das áreas de IA, filantropia, academia, código aberto, segurança infantil e combate ao extremismo violento.

Entre os principais anúncios do French AI Action Summit, a ROOST aborda uma lacuna importante na segurança digital – especialmente a segurança infantil on-line – fornecendo ferramentas de segurança gratuitas e de código aberto para organizações públicas e privadas de todos os tamanhos pelo mundo todo.

À medida que as tecnologias inovadoras continuam a evoluir, o mesmo acontece com o cenário de segurança on-line. A IA generativa remodela o ambiente on-line, aumentando a necessidade de infraestrutura de segurança confiável e acessível. A ROOST oferecerá ferramentas gratuitas, de código aberto e fáceis de usar para detetar, revisar e denunciar material de abuso sexual infantil (CSAM); utilizar grandes modelos de linguagem (LLMs) para alimentar a infraestrutura de segurança; e tornar as principais tecnologias de segurança mais acessíveis e mais fáceis de usar. Com equipes técnicas dedicadas a fornecer suporte prático, a ROOST vai ao encontro das organizações onde elas estão, ajudando-as a integrar fortes medidas de segurança enquanto trabalham nas suas próprias inovações.

A ROOST alivia a necessidade das organizações reinventarem a roda ao construir ferramentas que já existem, capacitando especialmente empresas menores e organizações de interesse público para se concentrarem no crescimento de suas plataformas ou serviços e, ao mesmo tempo, promoverem a segurança dos usuários on-line.

Até o momento, a ROOST arrecadou mais de US$ 27 milhões de uma série de renomadas instituições filantrópicas e empresas de tecnologia de ponta para seus primeiros quatro anos de operações. A ROOST pretende acelerar o crescimento e aumentar suas ofertas para o maior número possível de organizações.

Eric Schmidt, Sócio Fundador da ROOST e Presidente do Special Competitive Studies Project, disse: “As Robust Open Online Safety Tools, conhecidas como ROOST, abordam uma necessidade crítica de acelerar a inovação em IA e segurança infantil on-line, fornecendo a pequenas empresas e organizações sem fins lucrativos acesso a tecnologias que atualmente não possuem. Começando com uma plataforma focada na proteção infantil, a abordagem colaborativa e de código aberto da ROOST promoverá a inovação e tornará a infraestrutura essencial mais transparente, acessível e inclusiva, com o objetivo de criar uma Internet mais segura para todos.”

Camille François, Presidente da ROOST e Professora da Universidade de Columbia, disse: “A ROOST inaugura uma nova era de inovação colaborativa em segurança. Ao tornar essas ferramentas de segurança acessíveis a todos por meio de código aberto, estamos criando um futuro digital mais diverso e seguro na era da IA. Agradecemos aos nossos sócios fundadores e parceiros de apoio por suas contribuições inestimáveis para esta missão.”

Clint Smith, Presidente do Conselho da ROOST e Diretor Jurídico do Discord, disse: “No Discord, acreditamos que a segurança é um bem comum. Estamos empenhados em tornar toda a internet – não apenas o Discord – um lugar melhor e mais seguro, especialmente para os jovens. Embora a segurança seja integrada a todos os aspectos de nosso trabalho no Discord, também sabemos que a colaboração contínua do setor é essencial. Estamos orgulhosos de ser um sócio fundador da ROOST, de trabalhar em conjunto com outros líderes do setor e de contribuir com nossas ferramentas de segurança inovadoras para promover uma Internet mais segura para todos.”