Por que o ChatGPT é perigoso?

Perguntado por: rbarbosa . Última atualização: 20 de julho de 2023
/ 5 9 votos

Os perigos do ChatGPT. “Mas agora você tem essa novidade chamada ChatGPT, que é bem interessante, mas também muito perigoso. E é perigoso porque ele pode fabricar informações. Você tem problemas porque, ao menos que você seja um especialista, não saberá que está mentindo para você.

Pesquisar sintomas de saúde ou pedir diagnósticos ao ChatGPT pode levar a conclusões erradas. O chatbot não está ciente das suas condições médicas particulares, podendo gerar diagnósticos errôneos ou recomendações de medicamentos. Por isso, evite esse tipo de comando.

É por isso também que o ChatGPT não é uma ferramenta apropriada para pesquisar informações na internet. Além disso, com uma base limitada a dados até 2021, o ChatGPT não tem memória recente bem desenvolvida e se confunde com a geração de textos e as informações que armazena.

#chatgpt #ai #plágio Neste vídeo comento que o ChatGPT não pode ser usado como ferramenta para detctção de plágio, e mostro que o ChatGPT muitas vezes vai indicar que textos foram feitos por IA mesmo quando não é o caso, porque afinal, o ChatGPT não tem acesso à bases de dados de artigos e teses.

Para descobrir se uma redação foi escrita com IA, os usuários devem colar o conteúdo que querem analisar e apertar o botão "Check for AI". Depois, os detectores de AI acenderão em vermelho ou verde — vermelho para texto produzido por robôs e verde para textos que "passaram no teste".

Passado o primeiro semestre, agora docentes também acionam a ferramenta de inteligência artificial generativa na tentativa de descobrir se trabalhos acadêmicos foram fruto de plágio — uma utilização incorreta do ChatGPT, que pode levar a casos de falsos positivos, como argumentam alunos que se sentem lesados.

Sendo assim, ficou comprovado que, para os que já possuem habilidade maior na escrita, o ChatGPT auxilia na agilidade e diminui a perda de tempo, e os que não escrevem tão bem, tiveram um aumento de 18% na qualidade de seus textos com a ajuda da tecnologia.

OpenAI

O responsável pelo desenvolvimento do ChatGPT foi a OpenAI, inicialmente uma organização sem fins lucrativos norte-americana, com o propósito de avançar os estudos e desenvolver uma IA amigável.

Pode usar ChatGPT no TCC? A resposta é: sim e não. Você pode usar o ChatGPT como um aliado aos seus estudos, mas não terá um TCC pronto com ChatGPT. O ChatGPT funciona mais como um assistente para seu processo de coleta de informações em seu trabalho.

GPTZero. Outra opção para identificar textos criados pelo Chat GPT é o GPTZero. Esta ferramenta criada por um estudante de 22 anos da universidade de Princeton consegue também identificar textos criados por esta ferramenta, podendo ser colados textos com mais de 150 caracteres ou carregar ficheiros.

Mas para quem deseja dar aquela garantida no texto e evitar totalmente o plágio e suas consequências, o serviço tem também - pagando - a opção de recriar o texto. Simples de usar. Joga o texto (CTRL+V) num box e o site te devolve no box ao lado o texto reescrito ou recriado.

Em geral, os detectores de escrita e o ChatGPT podem dar um bom palpite, mas existe uma grande margem de erro, ressalta. Um estudo de pesquisadores da Universidade de Cornell também demonstrou empiricamente que os detectores de texto gerado por IA não são confiáveis.

Os chatbots são softwares que se comunicam e interagem com usuários humanos por meio de mensagens automatizadas. Eles servem para as empresas conseguirem responder seus consumidores a qualquer momento, sem necessitar da presença de uma equipe de atendentes.