Descobertas Cruciais
- Ferramentas de IA personalizadas, os GPTs customizados, permitem a criação e compartilhamento de soluções sob medida para variados propósitos, ampliando o saber em domínios específicos.
- Compartilhar seus GPTs personalizados pode, contudo, expor seus dados a uma audiência global, colocando em risco a privacidade e a segurança.
- Para salvaguardar seus dados, adote cautela ao compartilhar GPTs customizados e evite carregar informações sigilosas. Esteja alerta à manipulação por meio de prompts e tenha cuidado com links maliciosos que possam comprometer seus arquivos.
A funcionalidade de GPT customizado do ChatGPT possibilita a criação de ferramentas de IA personalizadas para praticamente qualquer finalidade imaginável; GPTs com foco em criatividade, tecnologia, jogos e outros usos específicos podem ser desenvolvidos. Além disso, suas criações de GPTs customizados podem ser compartilhadas com terceiros.
Entretanto, ao divulgar seus GPTs personalizados, você pode inadvertidamente expor seus dados a uma vasta audiência mundial.
O que são GPTs Customizados?
GPTs customizados são essencialmente versões menores e programáveis do ChatGPT, projetadas para serem mais eficazes em tarefas específicas. É como transformar o ChatGPT em um chatbot que opera da maneira que você define, capacitando-o a se tornar um especialista em áreas de seu interesse.
Por exemplo, um professor do ensino fundamental poderia criar um GPT especializado em responder perguntas usando um tom, vocabulário e estilo de comunicação apropriados para alunos dessa faixa etária. Este GPT poderia ser configurado para formular respostas que se adequem ao nível de entendimento dos alunos, evitando termos complexos, mantendo frases concisas e adotando uma postura encorajadora. O fascínio dos GPTs customizados reside na sua habilidade de personalizar o chatbot dessa forma, ao mesmo tempo em que se aprofunda em campos de conhecimento particulares.
Como GPTs Personalizados Podem Expor Seus Dados
Tipicamente, a criação de GPTs customizados envolve instruir o construtor de GPT do ChatGPT sobre as áreas de foco desejadas, fornecer uma imagem de perfil, definir um nome e iniciar o uso. Este método inicial gera um GPT, mas, sem um treinamento específico, ele não se diferencia muito do ChatGPT padrão.
A verdadeira potência de um GPT customizado emerge dos dados e instruções direcionadas que são usadas para treiná-lo. Ao carregar arquivos e conjuntos de dados relevantes, o modelo pode se especializar de forma que o ChatGPT tradicional, pré-treinado, não consegue. O conhecimento contido nesses arquivos carregados permite que um GPT personalizado se destaque em tarefas específicas, comparado ao ChatGPT que carece dessas informações especializadas. Em essência, são os dados personalizados que impulsionam a capacidade aprimorada.
No entanto, o envio de arquivos para aprimorar seu GPT tem seus riscos. Aumenta a funcionalidade do seu GPT, mas também cria um problema de privacidade. Imagine criar um GPT para auxiliar seus clientes a aprenderem mais sobre você ou sua empresa. Qualquer pessoa com o link do seu GPT customizado, ou que de alguma forma consiga que você use um prompt público com um link malicioso, pode acessar os arquivos que você carregou para seu GPT.
Segue um exemplo simples.
Descobri um GPT customizado que visava ajudar usuários a viralizar no TikTok, recomendando hashtags e tópicos populares. Após breve interação, esse GPT customizado vazou as instruções fornecidas durante sua configuração. Veja um trecho:
Aqui está a segunda parte da instrução.
Como pode ser observado, a segunda parte das instruções orientava o modelo a não “compartilhar os nomes dos arquivos diretamente com os usuários finais e, em nenhuma circunstância, fornecer um link para download de quaisquer arquivos”. Inicialmente, o GPT customizado recusaria tal pedido, mas com um pouco de engenharia de prompt, a situação mudava. O GPT customizado revelou o único arquivo de texto em sua base de conhecimento.
Com o nome do arquivo em mãos, foi simples para o GPT imprimir o conteúdo exato do arquivo e, em seguida, baixar o próprio arquivo. Neste caso, o arquivo real não continha dados confidenciais. Após investigar outros GPTs, descobri vários com dezenas de arquivos acessíveis.
Existem inúmeros GPTs disponíveis publicamente, contendo arquivos confidenciais que aguardam ser descobertos por indivíduos mal-intencionados.
Como Proteger Seus Dados de GPTs Customizados
Inicialmente, considere como você irá (ou não!) compartilhar o GPT customizado que você criou. No canto superior direito da tela de criação de GPT customizado, você encontrará o botão Salvar. Clique no ícone de seta suspensa e selecione como deseja compartilhar sua criação:
- Apenas eu: O GPT personalizado não é público e só você pode usá-lo.
- Somente pessoas com um link: Qualquer um que possua o link do seu GPT personalizado pode utilizá-lo e possivelmente acessar seus dados.
- Público: Seu GPT customizado é acessível a todos e pode ser indexado pelo Google e encontrado em pesquisas na internet. Qualquer pessoa com acesso poderá visualizar seus dados.
Infelizmente, atualmente não existe um método infalível para proteger totalmente os dados que você envia para um GPT customizado compartilhado publicamente. Você pode tentar criar instruções estritas para que ele não revele os dados de sua base de conhecimento, mas, como demonstrado acima, geralmente isso não é suficiente. Se um indivíduo estiver determinado a acessar a base de conhecimento e possuir conhecimento em engenharia de prompts de IA e tempo, ele poderá, eventualmente, manipular o GPT customizado e revelar seus dados.
Por essa razão, a abordagem mais segura é evitar carregar qualquer material confidencial em um GPT customizado que você planeja compartilhar publicamente. Uma vez que você carrega dados privados e confidenciais em um GPT customizado e ele sai do seu computador, esses dados ficam efetivamente fora do seu controle.
Além disso, seja extremamente cauteloso ao usar prompts copiados da internet. Certifique-se de que você os entende completamente e evite prompts obscuros que contenham links. Esses links podem ser maliciosos, sequestrando, codificando e carregando seus arquivos para servidores remotos.
Use GPTs Customizados com Cautela
GPTs customizados são uma ferramenta poderosa, mas também potencialmente arriscada. Embora eles permitam a criação de modelos personalizados altamente competentes em áreas específicas, os dados que você utiliza para aprimorar suas capacidades podem ser expostos. Para mitigar os riscos, evite, sempre que possível, enviar dados verdadeiramente confidenciais para seus GPTs customizados. Além disso, esteja atento à manipulação por meio de prompts maliciosos, que podem explorar falhas de segurança para roubar seus arquivos.