O projeto californiano quer exigir responsabilização dos desenvolvedores que investem mais de US$ 100 milhões, obrigando-os a testarem completamente seus modelos de IA para garantir que sejam seguros para evitar que suas produções causem danos graves, como vítimas em massa
Receba notícias do Canal Urbs Magna no WhatsApp 
“Depois de assistir a este vídeo, estou convencido de que precisamos regular a Inteligência Artificial“, afirmou um perfil no X, sobre as imagens compartilhadas que mostram o ex-presidente dos Estados Unidos, Donald Trump (Partido Republicano), exibindo uma pistola dourada como seus cabelos, sendo observado através do olho mágico da porta de um morador fictício.
Uma produção na rede social mostra um compilado de vídeos, com cenas de políticos e personagens estadunidense em situações inusitadas, que sabemos que elas jamais aconteceram. Mas as imagens geradas por Inteligência Artificial estão no ar, na web, para todo mundo ver.
Assista a seguir e leia mais depois:
After watching this video I am convinced we need to regulate AI 🤦♂️🤣pic.twitter.com/RWydjISBvv
— Clown World ™ 🤡 (@ClownWorld_) August 28, 2024
O Vale do Silício, Califórnia, berço das Big Techs como Apple, Meta e Google, está avançando com um projeto para regular a IA. O texto exige responsabilidade dos desenvolvedores que investem mais de US$ 100 milhões na tecnologia.
Apoiadores acreditam que a regulamentação é crucial, enquanto oponentes temem efeitos negativos sobre a inovação e competição.
Elon Musk endossou o projeto, mas grandes empresas de tecnologia expressaram preocupações.
O projeto foi aprovado pelo Senado estadual e aguarda votação na Assembleia Estadual, diz o Hindustan Times. A decisão final dependerá do governador.
O projeto SB 1047 está programado para votação até o final desta semana. O texto visa garantir que grandes desenvolvedores de IA sejam responsabilizados por suas criações, especialmente aquelas que investem mais de US$ 100 milhões na construção de modelos.
O PL californiano SB 1047 obrigaria as empresas a testarem completamente seus modelos de IA para garantir que sejam seguros, evitando que suas produções causassem danos graves, como vítimas em massa ou quaisquer que excedessem US$ 500 milhões. Neste caso, o procurador-geral do estado poderia tomar medidas contra o desenvolvedor.
Auditorias independentes seriam necessárias para verificar a segurança e a conformidade dos modelos de IA. Um sistema de IA deverá ter um kill switch integrado para desligá-lo instantaneamente, se necessário.
Um kill switch desconecta automaticamente o dispositivo da internet caso a conexão VPN seja perdida. Sempre que a VPN desconecta, o kill switch evita conexões de internet não seguras até que a conexão VPN seja retomada, garantindo que seus dados e sua privacidade permaneçam protegidos.
O projeto de lei também protegerá indivíduos que relatam práticas inseguras dentro de empresas de IA.
À medida que a tecnologia de IA avança rapidamente, as preocupações sobre seus riscos potenciais aumentaram.
Os apoiadores do SB 1047 argumentam que, sem regulamentações adequadas, a IA pode representar perigos significativos para a sociedade. Por outro lado, os oponentes, incluindo grandes empresas de tecnologia, temem que o projeto de lei possa sufocar a inovação e tornar a Califórnia um lugar menos atraente para pesquisas e startups de IA.
Elon Musk disse no X que a “decisão difícil deixará algumas pessoas chateadas, mas, considerando tudo, acho que a Califórnia provavelmente deveria aprovar o projeto de lei de segurança de IA SB 1047”.
O bilionário disse ainda que “por mais de 20 anos” defende “a regulamentação da IA, assim como regulamos qualquer produto/tecnologia que seja um risco potencial para o público“.
O senador Scott Wiener, um dos principais defensores do projeto de lei, obteve apoio de várias figuras na comunidade de IA. Em uma coletiva de imprensa virtual, ele foi acompanhado por especialistas em IA como Yoshua Bengio e líderes de organizações de segurança como Dan Hendrycks do Center for AI Safety.
Mas nem todo mundo está a favor. É o caso do Google, Meta e OpenAI, que expressaram suas preocupações, argumentando que as regras rígidas do projeto de lei podem atrapalhar o desenvolvimento de IA e colocar a Califórnia em desvantagem competitiva.
Em uma carta a Wiener, o diretor de estratégia da OpenAI, Jason Kwon, escreveu que, embora sua empresa apoie algumas das disposições do projeto de lei, as regulamentações de IA devem ser deixadas para o governo federal decidir.
A doutora Fei-Fei Li, uma cientista chinesa e professora na Universidade Stanford, onde é co-diretora de institutos de pesquisa sobre inteligência artificial, aprendizado de máquina, deep learning, visão computacional e neurociência cognitiva, alertou que o projeto de lei poderia impactar negativamente os players menores no campo da IA, incluindo aqueles na academia e no setor público.
Além disso, alguns legisladores democratas, incluindo a ex-presidente da Câmara, Nancy Pelosi, pediram um veto, acreditando que a regulamentação da IA deve ser tratada no nível federal.
Após várias emendas, o SB 1047 retornará ao Senado para votação final. Se aprovado, o projeto de lei irá para sanção do governador Gavin Newsom, que até agora não indicou se o apoiará.
Receba notícias do Canal Urbs Magna no WhatsApp
