Empresa criada por Musk venderá IA considerada ‘perigosa’ por ele mesmo

Uma vez julgado como “perigosa” por Elon Musk, o software gerador de texto da OpenAI será comercializado em beta fechado. Contando com Musk na posição de co-fundador, o centro de pesquisa viu a necessidade de comercializar a ferramenta para dar continuidade ao projeto.

Revelado há mais de um ano, o software gerador de texto da OpenAI foi julgado como “perigoso demais” pela própria instituição. A ferramenta é capaz de replicar estilos e vocabulários de outros autores ou sites ao ser treinado com apenas uma única frase — e provou isso ao reproduzir o estilo de 1984, de George Orwell, e artigos do The Guardian.

Funcionando através de um profundo trabalho com machine learning e ainda cometendo plágios evidentes, o software poderia facilmente se passar como um veículo de notícias e transmitir informações falsas — exigindo grande esforço para checagem de fatos e levando a danos potencialmente irreversíveis, principalmente em períodos sensíveis, como eleições e crises.

Por representar um verdadeiro risco para a internet, a OpenAI optou por “guardar” o software até decidir qual modelo adotar para liberá-lo — descartando, de toda forma, a disposição em código aberto. Agora, a companhia anunciou que irá comercializar o software, mas sob condições e constante supervisão.

O gerador de texto será vendido como uma interface de programação de aplicações (API) em um beta fechado. Além de desembolsar a quantia para adquiri-lo, a companhia interessada precisará informar para quê usará o software e estará sujeita ao julgamento da OpenAI durante a utilização. “Iremos interromper o acesso à API se seu uso for prejudicial — seja para assédio, spam, radicalização ou astroturfing.”, alertaram em uma publicação.

A API é uma versão refinada do projeto apresentado em fevereiro de 2019; portanto, é provável que os problemas de coesão e plágio tenham sido solucionados. Nos próximos dois meses, a ferramenta será distribuída gratuitamente — mas ainda exigirá autorização da OpenAI. Durante esse tempo, a companhia estudará formas de monetizar o produto a longo prazo.

Até o momento, o Reddit e a startup Algolia se mostraram interessadas na utilização da API. Mais clientes dariam mais fôlego para a OpenAI que, apesar de ser uma instituição sem fins lucrativos, quer aprofundar as pesquisas em inteligência artificial e levá-la para o mundo.