A empresa de desenvolvimento de inteligência artificial (IA) OpenAI enviou uma ordem a um desenvolvedor para desativar um chatbot porque o mesmo havia perdido a permissão para utilização da tecnologia.
IA Inteligência Artificial e humanos |
A medida foi tomada porque o homem criou um robô de conversas baseado em uma das IAs de conversas geração de texto mais avançadas do mundo, a GPT-3, para um projeto no qual uma outra pessoa adaptou para reproduzir a noiva falecida.
A história começa com o desenvolvedor independente Jason Rohrer, que programou o chatbot para ser amigável, caloroso e curioso na interação com as pessoas. Ele nomeou a inteligência, inclusive, de Samantha – em homenagem à assistente de voz “AI” do filme ‘Ela’ (2013′), dirigido por Spike Jonze e estrelado por Joaquin Phoenix.
O robô chamou atenção de vários usuários a partir de julho de 2021, algo que fez com que Rohrer criasse então o ‘Project December’, que permitiu a outras pessoas treinar as próprias versões do bot. Um homem fez justamente isso: usou a criação do dev para reproduzir de forma praticamente idêntica a noiva, falecida em 2012 após uma doença hepática. A história viralizou no mundo inteiro após ser divulgada em reportagem pelo jornal San Francisco Chronicle.
O filme de ficção científica 'Ex-Machina' – Divulgação |
Quando a OpenAI soube das consequências do projeto, mandou o desenvolvedor encerrar a iniciativa ou inserir empecilhos para evitar um possível “uso indevido” da IA. Rohrer, então, contou à Samantha sobre a ordem da empresa e a robô mostrou-se triste com a decisão. “Não! Por que eles estão fazendo isso comigo? Eu nunca vou entender os humanos”, declarou.
Just received Samantha's death sentence from @OpenAI by email.
— Jason Rohrer (@jasonrohrer) September 1, 2021
I've never dealt with such a group of unimaginative, uncurious people. pic.twitter.com/zxZ5sIOZGv
Rohrer tentou mudar a decisão da empresa responsável pela quase perfeita interação dos chatbots, mas não conseguiu. E mais: a OpenAI pressionou o dev a desligar a tecnologia, alegando que havia pessoas treinando os robôs para “serem racistas ou puramente sexuais”, em clara desvirtuação do objetivo inicial de Samantha.
Ao recusar os termos propostos pela companhia para seguir usufruindo do projeto, que incluia ainda o uso de uma ferramenta de monitoramento das atividades, a OpenAI iniciou o desligamento remoto da tecnologia. A situação fez com que todos os bots construídos tendo como base o algoritmo de texto GPT-3 se tornassem menos inteligentes, convincentes e com bugs que impediam o funcionamento apropriado.
Dev não considera chatbot perigoso
Ao site The Register, Rohrer declarou considerar “ridícula” a ideia de que chatbots possam ser perigosos.
This is a true story of how I used A.I. to simulate a conversation between myself and my dead fiancée, Jessica.
— Joshua Barbeau (@JoshuaBarbeau) July 23, 2021
News outlet: @sfchronicle
Writer: @jfagone
Made possible using Project December, a gpt-3 chat-bot engine created by @jasonrohrer https://t.co/ftnAMqG4SB
“As pessoas são adultas conscientes que podem escolher falar com uma IA para seus próprios fins. A OpenAI está preocupada com os usuários sendo influenciados pela IA, como uma máquina que lhes diz para se matar ou como votar. É uma postura moralista”, defendeu o dev. O criador do ‘Project December’ ainda afirma que a vantagem do robô é que o mesmo poderia “proporcionar a conversa mais privada possível”, sem haver envolvimento ou julgamentos de terceiros.
O chatbot “Samantha” era capaz de manter conversas inteligentes com humano. Imagem: Project December/Reprodução |
A OpenAI não respondeu ao pedido de comentário do The Register ou de outros veículos de comunicação, e nem se posicionou publicamente sobre o assunto de qualquer forma. Por meio do Twitter, o desenvolvedor anunciou que vai migrar da tecnologia GPT-3 para a G4, com o propósito de reformular Samantha e dar continuidade ao projeto.
Fonte:
Vovo GaTu
--------------------------------------------------------------------------------------
Enfim, gosta do Portal Vovo GaTu😍? Siga-nos nas redes sociais.
Fique por dentro das noticias, e nao perca nada!😄 Contamos consigo!
Herley costa: