Anos atrás, me vi sentado em uma sala de conferências lidando com uma pergunta que já ouvi milhares de vezes em minha carreira: a tecnologia que eu representava, que criei como CTO de uma empresa de tecnologia empresarial (estou sendo propositalmente vago), o ajuste certo para um problema específico do cliente que acabei de aprender naquela sala de conferências?
Teria sido uma venda fácil e de que precisávamos para fazer o nosso trimestre. Tudo que eu precisava fazer era concordar com o cliente, que já estava convencido de que minha tecnologia era “perfeita”. Em vez disso, expliquei que a tecnologia de um concorrente provavelmente seria mais adequada e teria os recursos e funções necessários para esse problema. O vendedor atirou em mim com adagas do outro lado da mesa. Comissão desapareceu.
Minha tecnologia era única, mas foi projetada para um problema específico. O cliente provavelmente poderia ter feito funcionar, mas não era a solução ideal para esta situação.
Ética de TI definida
Essa foi minha primeira experiência real fazendo escolhas que atendiam a um padrão ético. Fiz isso porque era a coisa certa a fazer; Não sou um homem excepcionalmente virtuoso. Fui chamado de volta ao mesmo cliente seis meses depois para analisar um novo problema para o qual minha tecnologia era a solução certa. Esse acordo foi três vezes maior que o primeiro, e descobri recentemente que minha tecnologia ainda executa essa parte do sistema. Isso é bom.
A ética em TI, como eu a defino, é o processo e a orientação para resolver o problema com a melhor solução possível, em vez de escolher algo por causa de qualquer agenda ou benefício pessoal, como fazer com que seus números de vendas acionem um bônus ou fazer um favor para um amigo.
A inteligência artificial fez com que muitas empresas, fornecedores de tecnologia e organizações de consultoria voltassem a se concentrar na ética. Todos estão percebendo que não é apenas uma boa ideia, mas também pode reduzir significativamente a sua exposição legal. Em uma pesquisa recente que conduzi no LinkedIn, cerca de um terço não considera a ética ao tomar decisões de TI. Se isso parece ruim, teria sido de 50% a 60% há apenas alguns anos.
Andar a falar
O conceito de ética é muito parecido com o conceito de sustentabilidade. Você receberá acenos de cabeça nas reuniões quando falar sobre as responsabilidades de construir edifícios, carros, cidades, etc., usando as melhores práticas sustentáveis. Infelizmente, as pessoas nem sempre praticam o que pregam. Os benefícios pessoais superam a adesão a esses conceitos, ou eles podem nem saber que estão fazendo algo errado.
Se você estiver projetando, construindo, implantando ou operando sistemas baseados em IA, a ética provavelmente estará no radar porque há um custo de responsabilidade absoluto que terá de ser pago. Se não fosse esse o caso, a ética receberia muito menos consideração. Desculpe se pareço um pouco pessimista em relação aos meus concidadãos, mas descobri que as consequências são os principais impulsionadores aqui, e não um sentido de certo e errado.
Como é a TI ética?
Vemos a ética em jogo na computação em nuvem quando a decisão de optar por um fornecedor de nuvem em detrimento de outro é motivada por considerações não técnicas, como os arquitetos que se sentem pressionados a optar pelo seu atual “parceiro de nuvem” por razões políticas e não técnicas. A escolha do parceiro de nuvem pode ser extremamente subotimizada ou mais cara do que optar por um provedor de nuvem diferente ou até mesmo usar tecnologia local de um não parceiro. No entanto, a solução mais otimizada retorna maior valor ao negócio.
O gabarito pode estar pronto para essas travessuras. A nova tecnologia de nuvem pode detectar essas decisões erradas antes de serem implementadas, em muitos casos. Ainda mais importante, quão ético é desperdiçar tanto dinheiro escolhendo uma tecnologia em vez de outra pelos motivos errados?
Além das decisões arquitetônicas, existem considerações éticas em relação à privacidade dos dados. À medida que as empresas recolhem, armazenam e analisam grandes quantidades de dados, o tratamento responsável destes dados tornou-se um problema real, especialmente quando os dados são entregues a terceiros ou quando estão inadequadamente protegidos e, portanto, sujeitos a um maior risco de perda.
Violações de dados de alto perfil e o uso indevido de informações pessoais levaram a protestos públicos e a um maior escrutínio regulatório. Estes desenvolvimentos levaram as empresas a dar prioridade a considerações éticas mais do que faziam há alguns anos, garantindo que a privacidade dos dados está incorporada nos seus sistemas de TI e práticas empresariais.
É claro que a IA está na vanguarda atualmente, o que significa enfrentar o preconceito algorítmico. Os algoritmos de IA e de aprendizado de máquina podem perpetuar e até exacerbar preconceitos em seus dados de treinamento. Como sabemos, isto pode levar a resultados injustos e discriminatórios, que são antiéticos e podem resultar em processos.
Observe que muito do que impulsiona a ética em TI não são as empresas e as pessoas que tentam fazer a coisa certa. Trata-se principalmente de evitar consequências. Assim, infelizmente, precisaremos manter as consequências em vigor.
Vantagem ética?
Há um reconhecimento crescente de que a tecnologia ética pode ser uma vantagem competitiva para algumas empresas. As empresas que abordam proativamente a ética nos seus sistemas de TI podem diferenciar-se como sendo as “mais éticas”. Na verdade, estou começando a ver isso no marketing de empresas tradicionais e de tecnologia. As empresas podem atrair consumidores eticamente conscientes, comprometendo-se com padrões éticos. Isso é útil no recrutamento de talentos. Recebi mais do que algumas perguntas sobre ética ao contratar.
O regresso da ética nas TI é encorajador, mesmo que motivado por uma agenda oculta. A interação entre tecnologia, sociedade e negócios é fortemente interligada e complexa. O foco na ética ajudará a mitigar riscos, atender aos requisitos regulatórios, impulsionar a inovação, construir a confiança do cliente e criar um futuro digital mais equitativo. Agora, o que podemos fazer a respeito do egoísmo?
