como abordar a sua política de IA generativa.

Quando uma tecnologia tão impactante como a IA generativa entra em cena, é importante tomar uma posição sobre a mesma enquanto empresa. A IA generativa pode mudar a forma como os seus profissionais trabalham e inovam, e provavelmente já está a ser amplamente utilizada na sua empresa - talvez sem que se aperceba. A lista de benefícios é longa, mas a IA generativa não está isenta de riscos. Ao criar uma política da empresa que regule a utilização da IA generativa, pode começar a utilizar a tecnologia em todo o seu potencial, minimizando os potenciais inconvenientes.

Neste artigo, abordaremos alguns dos principais riscos que a IA generativa apresenta, a forma como uma política pode ajudar a reduzi-los e como poderá ser o processo de criação de uma política na sua empresa. Não deve ser visto como um aconselhamento jurídico, mas baseia-se nas nossas próprias experiências com ferramentas de IA generativa e, esperamos, fornecerá uma base para mais investigação.

porquê criar uma política de IA generativa?

A sua empresa deve ter uma política de IA generativa pela mesma razão que tem todas as outras políticas - para garantir a conformidade, para orientar os empregados no seu trabalho e para simplificar as suas operações diárias. 

As ferramentas de IA generativa que podem gerar texto, imagem, áudio e até mesmo conteúdo de vídeo a partir de algumas instruções simples têm aplicações atraentes em toda a sua empresa. Com a variedade de ferramentas existentes e a velocidade a que estão a crescer, a sua empresa corre o risco de perder terreno para a concorrência se não começar a investigar como pode tirar partido destas ferramentas.

Mas para que os funcionários possam fazer estas investigações com confiança e para que a empresa evite os riscos bem conhecidos da IA generativa, deve ter uma política em vigor. Esta política mostra que a empresa dedicou algum tempo a pensar nas consequências da IA generativa e dá aos empregados regras claras a cumprir quando fazem experiências, permitindo-lhes colher em segurança os benefícios das ferramentas de IA generativa que estão disponíveis. 

Vejamos alguns dos principais riscos que a sua política de IA generativa deve tentar mitigar.

os riscos da IA generativa.

injustiça, parcialidade e comportamento pouco ético nas ferramentas de IA

As ferramentas de IA generativa são tão objectivas quanto os dados com que são "treinadas". Se os conjuntos de dados que uma ferramenta utiliza para criar conteúdos forem tendenciosos, o resultado da ferramenta também o será. Por exemplo, imagine uma ferramenta de IA generativa concebida para gerar descrições de funções com base em apenas alguns pormenores básicos sobre a função. Se essa ferramenta tiver sido treinada com milhares de descrições de funções que contêm uma linguagem não inclusiva, as descrições de funções que gera serão idênticas. Desta forma, é fácil que as ferramentas de IA reproduzam simplesmente os preconceitos dos seus criadores ou utilizadores. 

Os principais criadores de IA estão a fazer esforços para evitar a parcialidade nas suas ferramentas, mas é um desafio sério erradicá-la completamente. A sua política de IA generativa deve reconhecer esta limitação e especificar medidas para a ultrapassar - por exemplo, obrigando a que todos os conteúdos gerados por IA sejam cuidadosamente verificados por um ser humano quanto a parcialidade e justiça antes de serem publicados ou distribuídos.

violações da propriedade intelectual (PI)

Este risco resulta também da forma como os modelos de IA generativa são construídos. Ao influenciar os milhões de dados de imagem, música, vídeo e texto em que são treinados, podem produzir criações completamente únicas. No entanto, existe o risco de elementos significativos destes dados de treino entrarem no conteúdo gerado, criando potenciais problemas de propriedade intelectual.

O debate sobre se os conteúdos gerados por IA infringem os direitos dos criadores originais está em curso, com algumas organizações de criadores a exigirem que os criadores dêem o seu consentimento antes de as suas criações poderem ser utilizadas para treinar modelos de IA. Outras empresas de software estão a centrar-se em ferramentas de IA generativa "seguras para utilização comercial" que só são treinadas em conteúdos totalmente licenciados. A questão de saber se os conteúdos gerados por IA podem ser protegidos por direitos de autor varia consoante as jurisdições, mas a resposta é importante para as empresas que estão a considerar utilizar este tipo de conteúdos nas suas comunicações.

As decisões legais que a sua política de IA generativa reflecte irão variar, mas a política deve ter como objetivo reduzir o risco de problemas de PI - potencialmente determinando que o conteúdo gerado pela IA não pode ser utilizado externamente nas comunicações da empresa.

privacidade dos dados

A privacidade dos dados partilhados com as ferramentas de IA generativa tem sido um tema de discussão desde o seu aparecimento no mercado. Sabe-se que parte da razão pela qual muitos destes modelos de IA melhoram tão rapidamente se deve ao facto de utilizarem o feedback e os contributos dos utilizadores para afinarem as suas respostas e expandirem os seus conhecimentos.

No entanto, imagine um caso em que um especialista em RH entrega dados de carreira sensíveis sobre uma lista de candidatos a emprego a um chatbot de IA e pede-lhe que os agrupe em categorias com base no seu nível de experiência. Se o chatbot utilizar os dados do utilizador para melhorar a precisão das suas respostas, alguns especialistas em segurança alertam para o risco de estes dados sensíveis poderem ser expostos a outros utilizadores que saibam fazer as perguntas certas.

Este é um caso extremo, mas ilustra algumas das questões sem resposta sobre a IA generativa e a privacidade dos dados. Muitas ferramentas de IA afirmam claramente que não expõem quaisquer dados do utilizador a outros utilizadores - mas esta não é uma política universal.

A privacidade deve ser uma parte fundamental da sua política de IA generativa. A sua empresa tem de decidir os pormenores, mas especificar que nenhum dado relacionado com indivíduos ou actividades comerciais deve ser entregue a ferramentas de IA generativa através de prompts pode ser um bom começo.

Para além destes riscos, a sua política deve também ter em conta os riscos gerais de segurança e de conformidade inerentes à utilização de qualquer ferramenta de terceiros para fins comerciais, bem como os danos para a reputação decorrentes de infracções acidentais de propriedade intelectual, fugas de dados ou conteúdos tendenciosos.

criar a política de IA generativa da sua empresa

reúna os seus especialistas

Para além dos conhecimentos jurídicos e de privacidade, uma política eficaz de IA generativa também exigirá o contributo das pessoas que a utilizam - sejam elas do marketing, engenharia, RH ou vendas. Eles terão a melhor visão sobre a forma como a IA generativa é utilizada na empresa e os potenciais riscos da tecnologia que podem surgir nas suas áreas de utilização.

espalhar a palavra

Criar uma política de IA pode ser difícil, mas garantir que os funcionários a reconhecem e aceitam é um desafio ainda maior. Felizmente, a maioria dos estudos e relatórios mostra que os trabalhadores a nível global estão entusiasmados com o potencial da IA no local de trabalho, pelo que implementar a política através de uma comunicação interna, formação e discussão eficazes pode ser mais fácil do que pensa. Tal como acontece com qualquer política, é importante aplicá-la através dos canais habituais - mas é melhor prevenir as violações em primeiro lugar, envolvendo os funcionários na política e na IA generativa em geral.

garantir espaço para a inovação

A sua política é uma ferramenta fundamental para o proteger dos potenciais riscos da IA generativa. Mas não deve ser tão rigorosa que dificulte desnecessariamente a utilização da IA generativa. A IA generativa tem um grande potencial em toda a sua empresa, pelo que tornar os funcionários relutantes em utilizá-la com uma política demasiado restritiva seria o caminho errado. Em vez disso, concentre-se na prevenção dos riscos mais graves da política e utilize a formação e a comunicação para mostrar aos funcionários a importância de uma utilização responsável da IA.

quanto tempo é necessário para criar uma política de IA generativa?

A sua política de IA generativa não precisa de ser especialmente longa para ser eficaz, mas o tempo necessário para a criar depende inteiramente das especificidades da sua organização. O número de pessoas envolvidas no processo, a sensibilidade dos seus casos de utilização de IA generativa e a dimensão da sua organização terão todos um efeito.

No entanto, é possível acelerar o processo começando com um modelo de política de IA generativa. Descarregue o nosso para obter uma sugestão para a estrutura básica da sua política, juntamente com dicas e orientações sobre o que deve considerar durante o processo de criação da política. É um ótimo ponto de partida se a sua empresa quiser começar a levar a sério a IA generativa.