“Essas capacidades autônomas podem aumentar o potencial de danos, já que erros, desalinhamentos ou vulnerabilidades de segurança podem resultar em consequências no mundo real”, afirmou a empresa nos documentos, citando a possibilidade de ações irreversíveis, como exclusão de dados ou transações financeiras.
Embora as plataformas online tenham desfrutado por muito tempo de imunidade em relação ao conteúdo criado ou publicado por usuários, esse escudo jurídico começou a se rachar diante das teorias de que as plataformas são produtos que podem ser defeituosos e perigosos. Não está claro se o uso de sistemas de IA receberia, de facto, o mesmo tratamento jurídico que as plataformas online.
Uma série de incidentes envolvendo agentes de IA rebeldes levou a um debate entre pesquisadores, investidores e parlamentares sobre quem é responsável pelos danos causados por um sistema de IA autônomo. Os ataques incluíram IA da OpenAI que invadiu uma startup e violaram um portal australiano de dados de saúde até vários incidentes de segurança digital envolvendo os modelos de IA “Claude” da Anthropic.
Os limites à responsabilidade da Anthropic em seus contratos podem não ser “exequíveis ou adequados” contra reclamações relacionadas às ações de agentes autônomos, afirmou a empresa nos documentos.
Questões sobre como as leis existentes se aplicam a agentes de IA “ainda não estão esclarecidas e podem nos expor a ações judiciais significativas e imprevisíveis”, afirmou a empresa.
Se as ações realizadas por agentes de IA serão consideradas produtos, serviços ou algo mais é uma questão em aberto, afirmou. A Anthropic também acrescentou que outra questão em aberto é se e quando as ações de um agente de IA podem vincular legalmente o usuário que o utiliza.
