A OpenAI revelou sua mais recente ferramenta de voz, porém optou por não disponibilizá-la em larga escala no momento devido aos potenciais riscos de clonagem. A empresa planeja realizar testes preliminares, mas não liberará a tecnologia em grande escala devido ao temor de possíveis abusos.
“Reconhecemos que criar um discurso que se assemelhe às vozes das pessoas apresenta sérios riscos, especialmente em um ano eleitoral”, afirmou a empresa.
A preocupação é justificada, com relatos de ligações robóticas para eleitores em New Hampshire (EUA), utilizando a voz do presidente Joe Biden gerada por inteligência artificial, pedindo que não participem das primárias.
Embora a tecnologia não seja nova, várias startups já oferecem inteligências artificiais capazes de clonar vozes humanas, inclusive para o público em geral.
Quanto aos testes da nova ferramenta, a OpenAI informou que os testadores concordaram em não clonar a voz de ninguém sem sua permissão e em indicar que a voz foi gerada por IA.
Essa abordagem segue a estratégia adotada pela empresa ao anunciar sua IA geradora de vídeos, o Sora, que também não foi disponibilizada ao público por enquanto.
No entanto, um pedido de registro de marca feito pela empresa em 19 de março sugere que a OpenAI planeja adentrar no mercado de reconhecimento e assistentes de voz, potencialmente competindo com a Amazon Alexa, entre outros.
Fonte: Rodrigo Mozelli
