As agências governamentais do estado de Nova York terão que realizar análises e publicar relatórios que detalhem como estão usando software de inteligência artificial, sob uma nova lei assinada pela governadora Kathy Hochul.
Hochul, um democrata, assinou o projeto de lei na semana passada, depois de ter sido aprovado pelos legisladores estaduais no início deste ano.
A lei exige que as agências estatais realizem avaliações de qualquer software que utilize algoritmos, modelos computacionais ou técnicas de IA e, em seguida, submetam essas avaliações ao governador e aos principais líderes legislativos, juntamente com a sua publicação online.
Também proíbe o uso de IA em determinadas situações, como uma decisão automatizada sobre se alguém recebe subsídio de desemprego ou assistência para cuidados infantis, a menos que o sistema esteja a ser monitorizado de forma consistente por um ser humano.
Em meio aos rápidos avanços globais e à implantação de tecnologias de inteligência artificial, o governo federal investiu milhões para combinar as mentes de três institutos existentes em um só que possa ficar de olho nos perigos potenciais que estão por vir.
A lei protege os trabalhadores da limitação de horas devido à IA
Os trabalhadores do Estado também seriam protegidos de ter as suas horas ou funções profissionais limitadas devido à IA nos termos da lei, abordando uma grande preocupação que os críticos levantaram contra a IA generativa.
A senadora estadual Kristen Gonzalez, uma democrata que patrocinou o projeto, considerou a lei um passo importante na criação de algumas barreiras de proteção na forma como a tecnologia emergente é usada no governo estadual.
Os especialistas há muito pedem mais regulamentação da IA generativa à medida que a tecnologia se torna mais difundida.
Algumas das maiores preocupações levantadas pelos críticos, além da segurança no emprego, incluem preocupações de segurança em torno de informações pessoais, e que a IA poderia amplificar a desinformação devido à sua propensão para inventar factos, repetir declarações falsas e à sua capacidade de criar imagens quase fotorrealistas baseadas em dados. em prompts.