IA no Google: nossos princípios

A inteligência artificial (IA) é, em sua essência, uma forma de programação capaz de aprender e se adaptar. Ela não resolve todos os problemas do mundo, mas tem um grande potencial para melhorar a vida das pessoas. Nós, do Google, usamos IA para criar produtos ainda mais úteis: e-mails que filtram spam e são fáceis de escrever, um assistente digital que entende instruções faladas de forma natural, fotos que ressaltam coisas divertidas e tornam o dia mais gostoso.

No entanto, além de aplicar a inteligência artificial a nossos produtos, usamos esse recurso para enfrentar problemas mais urgentes. Uma dupla de alunos do Ensino Médio, por exemplo, está construindo sensores movidos a IA para prever incêndios florestais. Ambientalistas usam essa tecnologia para preservar matas tropicais e identificar o ruído de motosserras a quase dois quilômetros de distância. Médicos adotam a inteligência artificial como ferramenta de diagnóstico de câncer e prevenção à cegueira. Pensando nesse tipo de benefício, o Google desenvolve as mais avançadas técnicas de IA do mundo. É por isso que fazemos investimentos pesados em pesquisa e desenvolvimento, e é por isso que queremos colocar essa tecnologia à disposição de mais e mais gente, com códigos e ferramentas open source.

Sabemos que todo esse potencial vem atrelado a dúvidas igualmente importantes sobre como usar IA. O desenvolvimento e a aplicação dessa tecnologia terão impactos consideráveis na sociedade, durante muitos anos. O Google é um líder nesse setor, e temos consciência da responsabilidade de fazer a coisa certa. Por isso anunciamos sete princípios que vão orientar nosso trabalho de agora em diante. Não se trata de conceitos teóricos e abstratos: são padrões concretos que vão guiar, na prática, nosso trabalho de pesquisa e desenvolvimento de produtos. Esses princípios serão usados para tomar decisões reais de negócios.

Sabemos que esta é uma área de conhecimento dinâmica, em constante evolução. Vamos encarar nosso trabalho com humildade, compromisso, colaboração interna e externa e a disposição constante de ajustar nossas estratégias à medida que formos aprendendo.

Objetivos para todas as aplicações de IA

Avaliaremos as aplicações de Inteligência artificial tendo em mente os objetivos a seguir. Acreditamos que a IA deve:

1. Trazer benefícios para a sociedade

O crescente alcance das novas tecnologias atinge porções cada vez maiores da sociedade. O avanço da inteligência artificial causará impactos transformadores numa série de campos, como saúde, segurança, energia, transporte, manufatura e entretenimento. Quando pensarmos no desenvolvimento de possíveis usos dessa tecnologia, levaremos em conta uma série de fatores sociais e econômicos, e só seguiremos adiante nos casos em que, na nossa avaliação, os benefícios gerais superarem de longe os riscos e as desvantagens previsíveis.

A IA também aumenta nossa capacidade de compreender, em grande escala, o significado de diversos conteúdo. Trabalharemos para garantir que informações precisas e de qualidade estejam sempre disponíveis graças à IA, respeitando normas culturais, sociais e jurídicas dos países onde atuamos. Continuaremos avaliando cuidadosamente as situações em que nossas tecnologias devem estar disponíveis de forma não-comercial.

2. Evitar a criação e a afirmação de ideias e comportamentos injustos e tendenciosos

Algoritmos e conjuntos de dados alimentados por IA podem refletir, reforçar e até reduzir ideias e comportamentos injustos e tendenciosos. Sabemos que nem sempre é fácil diferenciar o justo do injusto, pois os conceitos variam entre culturas e sociedades. Buscaremos sempre evitar impactos injustos sobre as pessoas, principalmente aqueles relacionados a questões delicadas como raça, etnia, gênero, nacionalidade, renda, orientação sexual, habilidades, crenças religiosas e políticas. 
 
3. Ser criada e testada para garantir segurança

Vamos continuar desenvolvendo e aplicando práticas sólidas e fortes de segurança, para evitar efeitos não-desejados que apresentem algum risco de serem prejudiciais. Nossos sistemas de IA serão projetados para agir com cautela, e trabalharemos para desenvolvê-los de acordo com as melhores práticas da pesquisa segura em inteligência artificial. Nos casos em que considerarmos adequado, testaremos tecnologias de AI em ambientes restritos, monitorando as operações e o posterior desenvolvimento.

4. Ser responsável com os usuários

Vamos projetar sistemas de IA que garantam oportunidades adequadas de receber comentários e sugestões, explicações relevantes e de interesse. Nossas tecnologias de IA estarão sujeitas ao devido direcionamento e controle humano.

5. Ser projetadas de acordo com princípios de privacidade

O desenvolvimento e uso da inteligência artificial irão respeitar os princípios de privacidade do Google. Haverá avisos e solicitações de consentimento; incentivaremos arquiteturas que protejam a privacidade; garantiremos a transparência e o controle adequados sobre o uso dos dados.

6. Observar padrões elevados de excelência científica

O método científico e o compromisso com investigação aberta, rigor intelectual, integridade e colaboração são fundamentais para a inovação tecnológica. As ferramentas de IA são capazes de abrir novas portas para pesquisa científica e conhecimento em áreas fundamentais, como biologia, química, medicina e ciências ambientais. Buscaremos os mais altos padrões de excelência científica em nosso trabalho pelo progresso da IA.

Temos também o compromisso de compartilhar os conhecimentos da IA de forma responsável, publicando materiais educativos, melhores práticas e pesquisas que levem para mais pessoas a possibilidade de desenvolver aplicações úteis usando IA.

7. Estar disponível para outras pessoas, para utilizações que respeitem os princípios acima  

Tecnologias podem ser usadas para diferentes fins. Trabalharemos para limitar aplicações com potencial de causar danos ou levar a abusos. Nos reservamos o direito de evitar e impedir o uso da nossa tecnologia nos casos em que soubermos de aplicações que não respeitem nossos princípios. À medida que desenvolvemos e utilizamos a inteligência artificial, buscaremos responder às seguintes perguntas:

  • Objetivo e uso primário: o propósito principal e a utilização provável de tecnologias e aplicações podem levar a um fim prejudicial? A tecnologia oferece possibilidade de ser adaptada para objetivos danosos?
  • Natureza e diferenciação: a tecnologia que tornamos disponível – seja por publicações, open-sourcing, distribuição geral ou acordos específicos – é única e diferente? Ou está amplamente disponível?
  • Escala: o uso dessa tecnologia terá um impacto considerável?
  • Natureza do envolvimento do Google: estamos fornecendo ferramentas de uso geral, integrando ferramentas para clientes ou desenvolvendo soluções sob medida?

Aplicações de IA que não farão parte da nossa estratégia

Finalmente, para deixar claro que não se trata apenas de uma aspiração, nosso compromisso também define os usos de IA que não farão parte da nossa estratégia. Eles incluem:

  1. Tecnologias que causam ou podem causar danos gerais. Nos casos em que houver risco material de causar danos, seguiremos adiante apenas se acreditarmos que os benefícios superam de longe os riscos, e adotaremos medidas adequadas de segurança e proteção
  2. Armas e outras tecnologias cujo principal objetivo ou implantação seja causar ou facilitar ferimentos a seres humanos
  3. Tecnologias que coletem ou usem informações para fins de vigilância que violem normas internacionais de direitos humanos
  4. Tecnologias cujo propósito seja contrário aos princípios amplamente aceitos do direito internacional

Embora o Google não desenvolva IA para ser utilizada em armas, é importante esclarecer que continuaremos trabalhando em parceria com governos e forças armadas em outras áreas do conhecimento. Elas incluem segurança digital, treinamento e recrutamento de forças militares, saúde e bem-estar de veteranos de guerra, atividades de busca e resgate. Consideramos essa colaboração importante, e trabalhamos ativamente em busca de novas formas de aumentar a capacidade de trabalho dessas organizações e de garantir a segurança de oficiais e civis.

IA a longo prazo

Esses são os princípios que escolhemos para o desenvolvimento da inteligência artificial. Sabemos, porém, que o debate oferece espaço para muitas vozes e opiniões diferentes. À medida que a IA avança, vamos trabalhar com uma ampla gama de pessoas e organizações para promover uma liderança consciente nesse setor, partindo de premissas multidisciplinares, que respeitem o rigor científico. Continuaremos compartilhando nossas descobertas sobre formas de aprimorar tecnologias e práticas ligadas à IA. Vamos também criar um processo que inclua a revisão dessas questões em nossos métodos existentes e ajude a coordenar a revisões de questões delicadas.

Acreditamos que esses princípios representam uma base sólida para nossa empresa e para o desenvolvimento futuro da inteligência artificial. Essa estratégia é coerente com os valores estabelecidos na primeira Carta dos Fundadores, redigida em 2004. Nela, deixamos clara nossa intenção de pensar a longo prazo – mesmo quando isso representar a perda de ganhos imediatos. Já faz tempo, mas continuamos acreditando nisso.

Powered by WPeMatico