Quem responde quando um algoritmo erra?
A responsabilidade das empresas e dos gestores pelas decisões tomadas com auxílio de IA.
JORNAL CORREIO DIÁRIO | TECNOLOGIA, DIREITO E SOCIEDADE
A inteligência artificial deixou de ser uma promessa futurista para se tornar parte da realidade de empresas, instituições financeiras, hospitais, órgãos públicos e até do sistema de Justiça. Hoje, algoritmos ajudam a selecionar candidatos a empregos, analisar créditos, identificar padrões de comportamento, recomendar tratamentos e orientar decisões administrativas.
Mas, diante dessa transformação, surge uma pergunta que precisa ser debatida: quando uma inteligência artificial comete um erro e prejudica uma pessoa, quem deve responder por isso?
A resposta não pode ser simplesmente: foi o algoritmo.
A tecnologia pode executar cálculos, analisar milhares de informações e produzir recomendações em poucos segundos. Entretanto, por trás de sua utilização existem pessoas, empresas, desenvolvedores e gestores que escolhem como ela será criada, treinada, implantada e utilizada.
A grande questão é que a velocidade da tecnologia nem sempre vem acompanhada da mesma velocidade de fiscalização, transparência e responsabilização.
O risco das decisões automatizadas
Imagine uma pessoa que solicita um financiamento e recebe uma negativa sem explicação clara. Ou um profissional qualificado que deixa de ser contratado porque um sistema automatizado o classificou como inadequado. Também podemos imaginar um paciente prejudicado por uma recomendação produzida por um sistema de inteligência artificial.
Em todos esses casos, existe um problema que vai além da tecnologia: a possibilidade de uma decisão injusta, discriminatória ou equivocada afetar diretamente a vida de alguém.
Os algoritmos são desenvolvidos a partir de dados e critérios definidos por seres humanos. Se esses dados forem incompletos, desatualizados ou carregados de preconceitos, o resultado poderá reproduzir desigualdades já existentes na sociedade.
É por isso que a inteligência artificial precisa ser acompanhada de transparência, fiscalização e mecanismos de revisão humana. Uma decisão automatizada não deve ser tratada como verdade absoluta.
O que diz a legislação brasileira?
No Brasil, a discussão sobre responsabilidade pelo uso da inteligência artificial já encontra fundamentos em normas existentes.
A Lei Geral de Proteção de Dados (LGPD), Lei nº 13.709/2018, estabelece, em seu artigo 20, o direito de solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem os interesses do titular. Isso inclui decisões relacionadas ao perfil profissional, de consumo e de crédito.
O Código de Defesa do Consumidor também merece destaque. Seu artigo 14 prevê a responsabilidade do fornecedor de serviços pelos danos causados por defeitos na prestação do serviço, independentemente da demonstração de culpa, observadas as condições e exceções legais.
Já a Constituição Federal protege direitos fundamentais como a dignidade da pessoa humana, a igualdade e a proteção de dados pessoais.
Essas normas demonstram que a utilização de novas tecnologias não elimina os deveres jurídicos de quem oferece serviços ou toma decisões que afetam outras pessoas.
A responsabilidade das empresas e dos gestores
A responsabilidade não deve ser atribuída automaticamente ao programador ou ao sistema. É necessário analisar quem participou da decisão, qual era o dever de cada envolvido e de que maneira ocorreu o dano.
As empresas que adotam inteligência artificial precisam assumir responsabilidades importantes:
Transparência: informar quando decisões relevantes são tomadas com auxílio de sistemas automatizados.
Fiscalização: acompanhar o funcionamento dos algoritmos e identificar possíveis erros.
Proteção de dados: garantir que as informações utilizadas sejam tratadas de acordo com a legislação.
Prevenção de discriminação: verificar se o sistema prejudica determinados grupos sociais.
Supervisão humana: garantir que decisões de grande impacto possam ser analisadas por profissionais responsáveis.
Reparação de danos: responder juridicamente quando estiverem presentes os requisitos legais para responsabilização.
Os gestores também precisam compreender que delegar uma tarefa à inteligência artificial não significa transferir toda a responsabilidade para a máquina. A decisão de utilizar determinada ferramenta, estabelecer seus limites e confiar em seus resultados faz parte da gestão empresarial.
O Brasil está preparado para regulamentar a inteligência artificial?
O debate sobre a regulamentação da inteligência artificial ganhou força com o Projeto de Lei nº 2.338/2023, conhecido como Marco Legal da Inteligência Artificial.
A proposta foi aprovada pelo Senado Federal em dezembro de 2024 e encaminhada à Câmara dos Deputados em março de 2025. Na consulta à tramitação legislativa em novembro de 2026, o projeto ainda aparece em análise na Câmara, portanto não deve ser tratado como lei já aprovada.
O projeto busca estabelecer regras para o desenvolvimento e a utilização responsável da inteligência artificial, considerando a proteção dos direitos fundamentais, a segurança, a transparência e a responsabilização.
O desafio do Congresso Nacional é construir uma legislação que permita o desenvolvimento tecnológico sem deixar os cidadãos desprotegidos diante de possíveis abusos.
O futuro exige responsabilidade, não apenas inovação
A inteligência artificial pode trazer benefícios extraordinários para a sociedade. Pode agilizar diagnósticos, melhorar serviços, facilitar pesquisas e tornar processos mais eficientes.
Entretanto, nenhuma inovação deve estar acima dos direitos humanos e da responsabilidade jurídica.
Uma empresa não pode simplesmente justificar um prejuízo dizendo que o erro foi cometido por um algoritmo. Da mesma forma, um gestor não pode utilizar a tecnologia como escudo para fugir das consequências de decisões que deveria fiscalizar.
O desenvolvimento tecnológico precisa caminhar junto com a ética, a transparência e a proteção dos cidadãos.
A inteligência artificial pode tomar decisões, mas a responsabilidade por sua utilização continua sendo uma questão humana, jurídica e social.
O que a sociedade precisa questionar?
Quem fiscaliza as empresas que utilizam inteligência artificial?
Como uma pessoa pode contestar uma decisão automatizada injusta?
Quem indeniza uma vítima prejudicada por um erro tecnológico?
Até que ponto os gestores podem confiar em decisões produzidas por máquinas?
Estamos preparados para responsabilizar empresas quando a tecnologia viola direitos?
A reflexão que fica é: estamos construindo uma inteligência artificial a serviço da humanidade ou uma sociedade que está aprendendo a obedecer às decisões das máquinas?
Essa é uma discussão que envolve Direito, tecnologia, ética, economia e cidadania. E precisa estar cada vez mais presente no debate público.
Hoje, no Jornal Correio Diário, recebemos Manoel Amaral para uma conversa sobre um dos assuntos mais importantes da atualidade: a Inteligência Artificial.
Vamos discutir como a IA está transformando o mundo, os impactos no mercado de trabalho, os desafios éticos, os riscos e as oportunidades dessa tecnologia. Afinal, até onde a inteligência artificial pode chegar e qual será o papel do ser humano nesse novo cenário?
Uma conversa sobre inovação, futuro e os caminhos da humanidade diante da revolução tecnológica.
Estamos vivendo o início de uma nova revolução tecnológica? Até onde a inteligência artificial poderá chegar nos próximos 10 ou 20 anos?
Sem dúvida. Estamos diante de uma transformação tecnológica profunda, que envolve não apenas a inteligência artificial, mas também outras tecnologias emergentes, como a computação quântica. Na GoHacking , acompanhamos essa evolução, especialmente seus impactos na indústria e na cyber segurança. O potencial é enorme, mas a participação humana continuará indispensável.
Existe a possibilidade de a inteligência artificial desenvolver uma autonomia tão avançada que passe a tomar decisões sem depender dos seres humanos?
A IA já consegue executar tarefas e tomar determinadas decisões com elevado grau de autonomia. Entretanto, entendemos que isso não elimina a necessidade de supervisão, governança e responsabilidade humana, especialmente em decisões sensíveis. A tecnologia deve servir às pessoas, e não substituí-las integralmente.
A IA poderá dominar o mundo? Estamos diante de uma tecnologia que pode fugir do controle de seus próprios criadores?
Não trabalhamos com essa perspectiva. O desafio concreto é assegurar que a evolução tecnológica seja acompanhada de mecanismos eficazes de controle, segurança e responsabilidade. Na GoHacking, entendemos que a própria IA também pode ser utilizada para identificar, prevenir e combater seu uso indevido.
Quais profissões correm maior risco de serem substituídas pela inteligência artificial? O ser humano poderá perder seu espaço no mercado de trabalho?
As atividades repetitivas e mais facilmente automatizáveis tendem a sofrer maior transformação. Entretanto, acreditamos mais na evolução das profissões do que no desaparecimento do trabalho humano. Novas funções surgirão, exigindo adaptação e integração com a IA e outras tecnologias emergentes.
Podemos imaginar um futuro em que robôs humanoides convivam conosco, trabalhem em nossas casas e ocupem funções que hoje são exclusivamente humanas?
Certamente. Os humanoides representam uma evolução da robótica, incorporando IA, automação e outras tecnologias avançadas. Sua aplicação deverá crescer tanto na indústria quanto nas residências, contribuindo para melhorar as condições de trabalho, a produtividade e a qualidade de vida.
Existe o risco de um conflito entre máquinas e seres humanos? A inteligência artificial poderia ser utilizada para desenvolver sistemas que representem ameaças à humanidade?
Toda tecnologia pode representar riscos quando utilizada sem critérios éticos e mecanismos adequados de segurança. A IA não é exceção. Na GoHacking, especialmente na Cyber Segurança, acompanhamos essa dualidade: a mesma tecnologia que pode potencializar ameaças também pode fortalecer a prevenção, a detecção e a proteção contra elas.
Se uma inteligência artificial começar a tomar decisões prejudiciais às pessoas, quem será responsabilizado: o programador, a empresa que desenvolveu a tecnologia ou a própria IA?
A responsabilidade deve permanecer na esfera humana e institucional, conforme a participação de cada agente e a legislação aplicável. Desenvolvedores, fornecedores e empresas que utilizam a tecnologia precisam adotar controles, rastreabilidade e mecanismos de supervisão. A IA não deve servir como justificativa para afastar responsabilidades.
Quais profissões correm maior risco de serem substituídas pela inteligência artificial? O ser humano poderá perder seu espaço no mercado de trabalho?
Mais do que profissões inteiras, determinadas funções serão substituídas ou profundamente modificadas. As áreas tecnológicas tendem a realizar essa transição mais rapidamente, mas praticamente todas precisarão se adaptar. O diferencial profissional estará na capacidade de trabalhar com a IA, e não de competir diretamente com ela.
Estamos preparados, como sociedade, para viver em um mundo cada vez mais dependente da inteligência artificial? O que precisamos fazer agora para não perder o controle dessa transformação?
Ainda estamos em processo de preparação. Precisamos investir em educação tecnológica, qualificação profissional, governança, ética e cyber segurança. Na GoHacking, acompanhamos essa transformação com foco na proteção de ambientes industriais e digitais, defendendo que inovação e segurança avancem juntas, sempre sob responsabilidade humana.
Fique ligado em nossas publicações e venha participar desse debate sobre uma tecnologia que já está transformando nossas vidas. Informação, conhecimento e reflexão esperam por você!
Quem responde quando um algoritmo erra?
A responsabilidade das empresas e dos gestores pelas decisões tomadas com auxílio de IA.
Comentários