Três dias depois O governo Trump publicou seu tão esperado plano de ação de IA, o governo chinês lançou seu próprio plano de política de IA. O momento foi uma coincidência? Eu duvido.
O “Plano World de Ação de Governança da AI” da China foi lançado em 26 de julho, o primeiro dia da Conferência Mundial de Inteligência Synthetic (WAIC), o maior evento anual de IA na China. Geoffrey Hinton e Eric Schmidt estavam entre as muitas figuras da indústria de tecnologia ocidental que participaram das festividades em Xangai. Nosso colega com fio Will Knight também estava em cena.
A vibração de Waic foi o oposto polar da visão da luz regulamentar da América de Trump para a IA, Will me diz. Em seu discurso de abertura, o primeiro -ministro chinês Li Qiang defendeu a importância da cooperação international na IA. Ele foi seguido por uma série de proeminentes pesquisadores de IA chineses, que deram palestras técnicas destacando perguntas urgentes que o governo Trump parece estar amplamente ignorado.
Zhou Bowen, líder do Shanghai Ai Lab, uma das principais instituições de pesquisa da IA da China, divulgou o trabalho de sua equipe sobre a segurança da IA na WAIC. Ele também sugeriu que o governo poderia desempenhar um papel no monitoramento dos modelos comerciais de IA para vulnerabilidades.
Em uma entrevista à Wired, Yi Zeng, professor da Academia Chinesa de Ciências e uma das principais vozes do país na IA, disse que espera que as organizações de segurança de IA de todo o mundo encontrem maneiras de colaborar. “Seria melhor se o Reino Unido, nós, China, Cingapura e outros institutos se unissem”, disse ele.
A conferência também incluiu reuniões de portas fechadas sobre questões de política de segurança da IA. Falando depois que ele participou de um desses Confab, Paul Triolo, sócio da empresa de consultoria DGA-Albright Stonebridge Group, disse a Wired que as discussões foram produtivas, apesar da notável ausência de liderança americana. Com os EUA fora de cena, “uma coalizão de principais gamers de segurança da IA, co-liderada pela China, Cingapura, Reino Unido e UE, agora impulsionará os esforços para construir o Guardrails em torno do desenvolvimento do modelo de IA da Frontier”, disse Triolo à WIRED. Ele acrescentou que não period apenas o governo dos EUA que estava faltando: de todos os principais laboratórios da AI dos EUA, apenas Xai de Elon Musk enviou funcionários para participar do fórum da WAIC.
Muitos visitantes ocidentais ficaram surpresos ao saber quanto da conversa sobre IA na China gira em torno dos regulamentos de segurança. “Você poderia literalmente participar de eventos de segurança da IA no ingestão nos últimos sete dias. E esse não foi o caso de algumas das outras cúpulas globais da IA”, disse-me Brian TSE, fundador do Instituto de Pesquisa de Segurança da AI de Pequim, Concordia AI. No início desta semana, a Concordia AI organizou um fórum de segurança de um dia em Xangai, com pesquisadores famosos de IA como Stuart Russel e Yoshua Bengo.
Posições de comutação
Comparando o plano de AI da China com o plano de ação de Trump, parece que os dois países mudaram de posição. Quando as empresas chinesas começaram a desenvolver modelos avançados de IA, muitos observadores pensaram que seriam retidos pelos requisitos de censura impostos pelo governo. Agora, os líderes dos EUA dizem que querem garantir que os modelos de IA da casa “busquem a verdade objetiva”, um esforço que, como meu colega Steven Levy escreveu na semana passada Backchannel Boletim, é “um exercício flagrante no viés ideológico de cima para baixo”. Enquanto isso, o Plano de Ação da AI da China parece um manifesto globalista: recomenda que as Nações Unidas ajudem a liderar os esforços internacionais de IA e sugere que os governos tenham um papel importante a desempenhar na regulação da tecnologia.
Embora seus governos sejam muito diferentes, quando se trata de segurança de IA, as pessoas na China e nos EUA estão preocupadas com muitas das mesmas coisas: modelar alucinações, discriminação, riscos existenciais, vulnerabilidades de segurança cibernética, and so forth. Porque os EUA e a China estão desenvolvendo os modelos de IA de fronteira, os modelos de IA “treinados na mesma arquitetura e usando os mesmos métodos de escala, as leis, os tipos de IA, os tipos de IA“ treinados na arquitetura e usando os mesmos métodos de escala, os tipos de IA da Frontier, “treinados na arquitetura e usando os mesmos métodos de escala, os tipos de IA da Frontier“ Treinados e os tipos de pérolas e os mesmos métodos, os tipos de IA. Isso também significa que a pesquisa acadêmica sobre segurança da IA está convergindo nos dois países, inclusive em áreas como supervisão escalável (como os humanos podem monitorar os modelos de IA com outros modelos de IA) e o desenvolvimento de padrões de teste de segurança interoperáveis.
