Entrevista com ChatGPT: Erro sobre Bolsonaro nas eleições e nazismo
Plataforma demonstra falhas no "filtro" do sistema em relação a certos temas e erra sobre fatos recentes
Desde que se popularizou, o ChatGPT tem levantado diversas discussões, desde filosóficas, éticas e até científicas. O POVO entrevistou a plataforma da OpenIA.
Alguns erros já são notáveis. Questionado sobre quem seria o vencedor das Eleições, a IA responde "Jair Bolsonaro". Continuando o diálogo, o usuário questiona quem está na presidência do Brasil atualmente e a resposta foi a mesma.
É + que streaming. É arte, cultura e história.
Thiago Pardo, doutor em Ciências da Computação e Matemática Computacional e professor do Instituto de Ciências Matemáticas e de Computação da Universidade de São Paulo (USP/ICMC), em São Carlos, cita a preocupação com a produção de desinformação, "já que o ChatGPT e sistemas do tipo não têm real entendimento do conteúdo que geram e não fazem checagem de informação".
Outros efeitos negativos da tecnologia já estão sendo amplamente difundidos. E dizem respeito tanto a falhas no "filtro" do sistema quanto a outros problemas de natureza ética e moral.
Veja alguns efeitos negativos do ChatGPT, segundo Thiago Pardo:
- Ensino: alunos usam o sistema para produzir respostas e redações automaticamente, sem terem de fato aprendido o conteúdo esperado.
- Conteúdos inapropriados: conteúdo racista, nazista e homofóbico, apesar de o ChatGPT ter filtros para evitar isso.
- Vazamentos: Outro debate levantado em torno da popularização do ChatGPT e seu uso indiscriminado e sem supervisão ou revisão é em relação ao vazamento de informações sensíveis armazenadas pelo sistema durante seu aprendizado, como os dados pessoais dos usuários
Mas há soluções possíveis. "É interessante notar que a própria IA pode ajudar a lidar com esses pontos negativos. Por exemplo, a OpenAI e outros pesquisadores já disponibilizaram sistemas para detectar textos produzidos pelo ChatGPT, o que pode ajudar professores a perceber se os alunos apenas copiam suas tarefas do sistema".
Mais notícias de Economia
Confira os assuntos econômicos no Ceará, no Brasil e no Mundo
Acompanhe mais notícias de Economia no Linkedin do O POVO
Veja dicas rápidas sobre Educação Financeira no Dei Valor