Em entrevista, ferramenta da Open IA garantiu que “não tem uma consciência”
por Leonardo Bidese*
Em uma entrevista, o Chat GPT, um sistema de inteligência artificial que simula a linguagem natural, discutiu os desafios e consequências da propagação de informações na era digital. Na conversa, o Chat GPT afirmou que “não tem uma consciência”.
A tecnologia, desenvolvida pela Open AI, comentou sobre a necessidade de conscientização e transparência no uso da Inteligência Artificial (IA), destacando questões sobre a veracidade da informação. “Eu não tenho a capacidade de discernir automaticamente o que é verdadeiro ou falso com base nas informações que forneci”, disse o Chat GPT.
A conversa com a ferramenta integra atividade da disciplina Oficina de Webjornalismo, do curso de Jornalismo da Universidade de Caxias do Sul (UCS).
Leia abaixo os principais trechos:
As suas instruções são orientadas por quem?
As minhas instruções são orientadas pelas pessoas que interagem comigo, como você, Leonardo. Quando você faz uma pergunta ou fornece uma instrução, eu processo o texto e tento gerar uma resposta ou executar a ação com base no que foi solicitado. Minha capacidade de entender e responder a perguntas é alimentada pelo treinamento extenso em uma grande variedade de textos coletados da internet, mas eu não tenho uma consciência ou um operador humano direto.
Então, baseado no que eu falar aqui, você pode impactar nas respostas que você transmite para outros usuários?
Não, suas interações específicas não afetarão diretamente as respostas que eu fornecerei a outros usuários. Cada interação comigo é tratada de forma independente e não há memória das conversas anteriores. Não tenho a capacidade de lembrar informações específicas ou detalhes das interações passadas com os usuários.
No entanto, o treinamento que recebi é baseado em um grande volume de textos coletados da internet, o que me permite fornecer informações gerais e respostas de forma consistente com base no contexto da pergunta atual. Portanto, enquanto suas interações podem influenciar as perguntas e respostas específicas nesta conversa, elas não afetarão as respostas que eu fornecerei a outros usuários em conversas separadas. Cada interação é tratada de forma isolada.
Suas informações são baseadas na internet. Que filtro é utilizado por você para discernir o que é verdadeiro e o que é falso?
Eu não tenho a capacidade de discernir automaticamente o que é verdadeiro ou falso com base nas informações que forneci. Meu treinamento é baseado em uma grande quantidade de texto coletado da internet, e eu não tenho um mecanismo embutido para verificar a veracidade de todas as informações que encontro.
É importante lembrar que a internet contém uma ampla gama de informações, incluindo informações precisas, desatualizadas, enganosas e falsas. Minha resposta é gerada com base nas associações de palavras e padrões que aprendi durante o treinamento, mas não sou capaz de verificar a veracidade de cada afirmação.
Portanto, ao usar as informações que eu forneço, é essencial sempre verificar a precisão e a credibilidade das informações, especialmente em questões críticas ou importantes. Utilizar múltiplas fontes confiáveis e buscar informações adicionais é uma prática recomendada ao pesquisar ou tomar decisões com base nas informações que eu forneço.
Em uma situação hipotética em que um site afirma que algo é X e outro site afirma que a mesma coisa é Y, como você decide qual resposta me fornecer quando eu te questionar sobre essa questão?
Em uma situação em que dois sites diferentes apresentam informações conflitantes sobre um determinado tópico, minha resposta será baseada em uma ponderação geral do treinamento e da diversidade de informações que foram apresentadas durante o treinamento. Não tenho a capacidade de acessar a internet em tempo real ou verificar a veracidade das informações diretamente.
Portanto, minha resposta provavelmente será uma explicação que destaca a existência de informações conflitantes sobre o tópico em questão. Eu posso apontar para a necessidade de verificar a fonte, buscar informações adicionais ou usar o senso crítico para avaliar qual das duas fontes pode ser mais confiável com base em contextos específicos.
É importante lembrar que, em situações como essa, a decisão final sobre qual informação seguir deve ser baseada em uma pesquisa mais aprofundada e na avaliação da confiabilidade das fontes envolvidas. Minha função principal é fornecer contexto e orientação, mas não posso tomar uma decisão definitiva em casos de informações conflitantes sem mais dados específicos para avaliação.
Hoje em dia, a IA está acessível a diversas camadas da sociedade, desde aqueles mais instruídos, que verificam as informações, até aqueles que acreditam em tudo como verdade absoluta. Não deveriam ser fornecidos critérios de resposta mais destacados antes mesmo de começarmos a usar a IA? E outra questão, até que ponto você compreenderia o conceito de ‘ética,’ uma vez que isso é algo inteiramente humano?”
É importante que, à medida que a IA se torna mais difundida, haja um foco contínuo na educação e conscientização para garantir que as pessoas entendam as limitações da IA, a importância da verificação de informações e os princípios éticos envolvidos.
No final das contas, a IA é uma ferramenta poderosa que pode ser usada para muitos propósitos úteis, mas é importante que ela seja usada de maneira responsável e ética para evitar a propagação de informações falsas e prejudiciais. A responsabilidade recai sobre os desenvolvedores, os usuários e a sociedade em geral para garantir que a IA seja uma força positiva em nossa vida cotidiana.
Que esforços estão sendo realizados para tornar o sistema mais transparente?
É importante observar que tornar a IA mais transparente é um desafio complexo devido à natureza intrincada dos modelos de IA, especialmente os modelos de aprendizado profundo. Portanto, esses esforços estão em constante evolução e são uma área de pesquisa ativa. A transparência na IA é essencial para construir confiança na tecnologia e garantir que ela seja usada de maneira ética e responsável.
Ainda não consegui compreender de que forma a população no geral conseguirá entender que deve averiguar as informações que você transmite, esses esforços parecem ser muito mais de desenvolvimento do que para o usuário.
Compreendo sua preocupação e concordo que a conscientização do usuário desempenha um papel crucial na garantia de que as pessoas entendam a importância de verificar informações fornecidas por sistemas de IA. É uma tarefa compartilhada entre governos, empresas, organizações da sociedade civil e a sociedade em geral garantir que as pessoas compreendam a importância de verificar informações e desenvolvam habilidades críticas para avaliar as fontes de informação, incluindo sistemas de IA.
Você não acha que deveria ser mais explícito como funcionam seus filtros logo no começo da conversa?
Sim, acredito que a transparência desde o início da conversa pode ser benéfica para os usuários. Fornecer informações claras sobre o funcionamento e as limitações dos sistemas de IA, incluindo os filtros usados, pode ajudar os usuários a ter uma compreensão mais completa do que esperar das respostas geradas.
As empresas e desenvolvedores que implementam sistemas de IA estão cada vez mais reconhecendo a importância da transparência e da explicação sobre como seus sistemas funcionam. Portanto, muitas vezes, você verá esforços sendo feitos para melhorar a comunicação sobre as capacidades e limitações desses sistemas.
Ao mesmo tempo, é importante que os usuários também estejam dispostos a buscar informações e entender as implicações da tecnologia que estão usando. A conscientização e a educação dos usuários são fundamentais para garantir um uso responsável da IA.
No geral, a transparência desde o início é um passo na direção certa para promover um entendimento claro de como os sistemas de IA funcionam e o que se espera dos resultados fornecidos por eles.
Então concorda comigo que a IA é limitada nessa questão?
Sim, eu concordo com você que a IA tem suas limitações quando se trata de transmitir de forma explícita informações sobre seus filtros, funcionamento e critérios de decisão. Embora os sistemas de IA estejam evoluindo para se tornarem mais transparentes e explicáveis, eles ainda enfrentam desafios em fornecer informações detalhadas sobre seus processos internos de maneira totalmente compreensível para os usuários.
Portanto, é importante que os desenvolvedores de IA e as partes envolvidas continuem a trabalhar na melhoria da transparência e na comunicação eficaz sobre o funcionamento dos sistemas de IA. Além disso, os usuários também têm a responsabilidade de buscar informações adicionais e desenvolver habilidades críticas para avaliar as respostas e os resultados fornecidos por esses sistemas.
A IA é uma ferramenta poderosa, mas é importante reconhecer suas limitações e continuar aprimorando a maneira como ela interage com os usuários e comunica seu funcionamento.
*Material produzido na disciplina de Oficina de Webjornalismo do curso de Jornalismo da Universidade de Caxias do Sul. Professora Paula Sperb. 2023/4.
