Inteligência Artificial e ética: o exemplo de OpenAI

Empresas dos mais diversos setores estão a aplicar Inteligência Artificial (IA) em benefício do seu negócio, para melhorar a eficiência, poupar tempo e reduzir custos – e tentando criar alguma inovação através das potencialidades das tecnologias disponíveis atualmente.

Conforme um relatório da Precedence Research, o mercado global de IA foi avaliado em cerca de 454.12 mil milhões de dólares em 2022, prevendo-se que alcance um valor superior a 2,575.16 mil milhões de dólares até 2024. Adicionalmente, revelou que 64% das empresas inquiridas acredita que a IA ajudará a aumentar a sua produtividade global. Esses dados refletem a crescente confiança no potencial da IA para revolucionar as atividades do negócio. À medida que esta tecnologia continua a desenvolver-se, começam a surgir implicações éticas relativamente à sua utilização, por pessoas e empresas. O design e a implementação destes sistemas devem defender e priorizar valores e princípios éticos, e as organizações devem estruturar-se, e aos seus projetos, para o garantir.

A relevância da Inteligência Artificial ética está relacionada com a sua capacidade de prevenir consequências negativas, como discriminação e violações de privacidade. Os sistemas de IA estão a tornar-se cada vez mais integrados na sociedade, o que faz com que seja cada vez mais importante entender como a abordagem ética pode contribuir para mitigar riscos e assegurar que é efetivamente aplicada. Neste sentido, consideramos que existem 4 princípios para assegurar que a IA seja desenvolvida e utilizada de maneira justa, transparente e responsável:

1. Igualdade: Desenvolver sistemas de IA que partem de um princípio equitativo é desafiante quando são humanos, com diferentes pensamentos e diferentes backgrounds, a desenvolvê-los. Além disso, os próprios dados utilizados no treino destes sistemas refletem muito desse enviesamento. Estas soluções devem ser utilizadas de forma equitativa para todas as pessoas, independentemente de raça, género ou outras características – e quem as desenvolve devem manter este princípio-base no pensamento. Testar os sistemas antes da utilização dos mesmos em ambiente real é fundamental, de modo a poder identificar situações que seja necessário endereçar, do ponto de vista ético. Deste modo, reduz-se o risco das ferramentas de IA representarem um agravamento em disparidades sociais, acesso democrático à informação ou, até mesmo, discriminação.

2. Transparência: Para garantir a confiança dos utilizadores e para que estes possam tomar decisões baseadas em IA, os sistemas devem permitir um elevado nível de transparência. Modelos que cheguem a conclusões concretas, mas que sejam de difícil interpretação por humanos podem resultar numa menor aplicação dos mesmos. Apresentar relatórios com a descrição do trabalho pode ser uma forma de manter a transparência em soluções de IA, embora nem sempre seja possível um nível de entendimento detalhado do processo utilizado pelos algoritmos para chegar a determinado resultado. Nestes casos, é necessário garantir uma análise detalhada da situação, para garantir um grau de conforto com a mesma e uma avaliação de risco relativamente à sua utilização.

3. Responsabilidade: Tanto os criadores, como os utilizadores de IA devem ser responsáveis pela sua criação e utilização, respetivamente. Seja numa fase inicial, de teste e de análise, numa fase de implementação, ou já em ambientes produtivos, a utilização de IA pode resultar em consequências negativas, tais como fugas de privacidade, parcialidade, disparidades sociais, entre outras. Cabe aos elementos humanos endereçar, assumir e resolver as possíveis consequências negativas, devendo inclusivamente considerar o bloqueio de casos de uso que não cumpram os princípios enumerados neste artigo.

4. Privacidade: É necessário assegurar a segurança de todos os utilizadores e dos seus dados. Este princípio é especialmente importante em setores como finanças ou saúde, onde frequentemente são envolvidas informações pessoais sensíveis, e cuja divulgação pode ter consequências graves.

A OpenAI é uma plataforma de Inteligência Artificial que oferece ferramentas e soluções para empresas de várias indústrias. Para além da vasta oferta de serviços mundialmente conhecidos e utilizados, a OpenAI tem como valor fundamental garantir a ética da Inteligência Artificial.

De forma geral, a OpenAI trabalha tanto com modelos de Glass Box e de Black Box, dependendo do problema que está a tentar solucionar. O modelo de IA Glass Box é baseado em Machine Learning, onde, de forma mais transparente, se consegue oferecer uma explicação clara do raciocínio subjacente às decisões, facilitando a interpretação de resultados. Por outro lado, IA Black Box são modelos difíceis de interpretar por seres humanos. Embora os resultados que estes modelos produzam possam ser exatos, o raciocínio e o processo de decisão são opacos.

No entanto, o compromisso da OpenAI com a ética sugere que valoriza o desenvolvimento de recursos transparentes. Como tal, a organização tem vindo a publicar vários documentos de investigação e relatórios técnicos com a descrição do seu trabalho.

A OpenAI desenvolveu ferramentas que podem significar oportunidades de negócio e que devem ser exploradas. Com as competências e conhecimentos adequados, as empresas podem tirar partido das soluções da OpenAI para desenvolver soluções inovadoras que podem melhorar as experiências dos clientes, aumentar a eficiência e impulsionar o crescimento do negócio. Alguns dos exemplos mais comuns são:

• Chatbots: Desenvolver e implementar chatbots que podem interagir com os clientes, responder a perguntas e oferecer recomendações personalizadas, 24/7;

• Deteção de fraudes: Utilizando modelos de Machine Learning, a OpenAI desenvolveu ferramentas que podem identificar padrões nos dados para detetar atividades suspeitas. Por exemplo, pode detetar quando um utilizador está a iniciar sessão num sistema a partir de um dispositivo ou local desconhecido ou quando está a ser transferida uma quantidade invulgar de dados;

• Análise preditiva: Os modelos de Machine Learning da OpenAI também podem ser aproveitados para analisar os dados dos clientes, traçar padrões, prever tendências e otimizar as estratégias de negócio em conformidade;

• Personalização: Os recursos da OpenAI podem ser utilizados para criar motores de recomendação personalizados – desde produtos, a serviços e a conteúdos – com base nas preferências e no comportamento do utilizador.

Na Xpand IT, ajudamos os nossos clientes a perceber como podem aplicar diferentes soluções tecnológicas para endereçar os desafios do seu negócio – e a IA não é exceção.

A Xpand IT trabalha com vários clientes na compreensão, em primeira instância, das tecnologias de IA, mas também na implementação de soluções que permitam entender, de forma clara, o valor que pode ser gerado para as organizações. Através de uma abordagem iterativa, é possível criar um projeto base, que permita testar as tecnologias aplicadas à realidade de cada cliente, e depois iterar de modo a melhorar os resultados obtidos e/ou desenvolver casos de uso adicionais – permitindo ter uma noção concreta de aplicabilidade, custos, entre outros.

Na Xpand IT estamos focados em ajudar os nossos clientes a atingir o seu potencial máximo, alicerçado em tecnologias inovadoras. Estamos confiantes que as organizações podem aproveitar todo o potencial da IA de forma ética e sustentável. Trabalhamos em conjunto para este objetivo? Entre em contacto connosco, ainda hoje!