O indicador é o verdadeiro designer do seu produto

Em 25 de março de 2026, um júri do Tribunal Superior da Califórnia, no condado de Los Angeles, decidiu que Meta e Google foram negligentes no desenho e na operação do Instagram e do YouTube, e que essa negligência foi fator substancial no dano sofrido pela autora da ação, uma jovem de 20 anos identificada no processo pelas iniciais K.G.M.

O que estava em julgamento não era o que as pessoas publicaram nessas plataformas. Era como as plataformas foram construídas.

Essa distinção é a pauta.

Desenho virou objeto de responsabilidade civil

Segundo a cobertura da Al Jazeera sobre o veredito, o júri fixou US$ 3 milhões em indenização compensatória e recomendou outros US$ 3 milhões em danos punitivos, depois de concluir que houve malícia, opressão ou fraude. A responsabilidade foi repartida em 70% para a Meta e 30% para o Google. TikTok e Snap, também acionados, fecharam acordo em janeiro e saíram antes do veredito.

A alegação central não era falha de moderação de conteúdo. Eram recursos específicos de produto — rolagem infinita, reprodução automática, notificações e recomendação algorítmica — apresentados como projetados para maximizar a compulsão de uso. A análise do escritório Clyde & Co registra que o caso tratou a mecânica de desenho como o mecanismo do dano.

O limite vale ser dito antes do argumento, porque é grande: é decisão de primeira instância. Meta e Google discordaram do resultado e afirmaram que avaliam as opções jurídicas, inclusive recurso. A própria análise jurídica é explícita ao dizer que veredictos desse tipo não são a palavra final. Não é jurisprudência consolidada, é um precedente de fato que ainda pode ser revertido.

Mesmo assim, alguma coisa mudou de lugar. Enquanto o custo de um produto nocivo era reputacional, ele era administrado pela área de comunicação. Quando passa a ser patrimonial, ele entra na planilha — e escolhas de desenho de produto viram prova documental.

O que a MIT Sloan propõe a partir do caso

Foi desse ponto que partiu o artigo Why Design Thinking Needs a Responsibility Reboot, publicado em 23 de setembro de 2026 pela MIT Sloan Management Review e assinado por Pietro Micheli, da Warwick Business School, da Universidade de Warwick; Jatinder Jit Singh, da EGADE Business School, do Tecnológico de Monterrey; Minu Kumar, da Lam Family College of Business, da San Francisco State University; e Neil Goldberg, da consultoria Praxis Design.

A tese, na parte do texto disponível sem assinatura, é que métodos de design centrados no usuário organizam o trabalho em torno de entregar ao usuário aquilo que ele parece querer — e que, mesmo aplicados de boa-fé, podem levar equipes a ignorar danos potenciais ou a dar atenção insuficiente à avaliação ética. Os autores citam recursos que aumentaram engajamento e acabaram produzindo comportamento aditivo, e personalização que amplificou conteúdo extremo, como exemplos de times que seguiram as boas práticas do método e ainda assim chegaram a efeitos que não pretendiam.

A base empírica são entrevistas com 27 gestores e líderes seniores de empresas de tecnologia, de farmacêutica e de consultorias de design nos Estados Unidos e na Europa.

Vinte e sete entrevistas não provam nada, e isso precisa ser dito com todas as letras. Pesquisa qualitativa desse tamanho serve para levantar hipótese e descrever mecanismo, não para medir frequência nem para estabelecer causalidade. Quem ler "estudo comprova" sobre esse material está lendo errado.

As correções que os autores propõem são três: colocar missão e valores à frente do processo de design; atentar para como indicadores de desempenho e outros incentivos influenciam escolhas de design; e fazer uma pausa para considerar o impacto amplo de um produto antes de escalá-lo.

A segunda recomendação é a que muda comportamento

Das três, a primeira é a que mais aparece em apresentação institucional e a que menos muda decisão. Missão e valores pendurados na parede não competem com a meta do trimestre, e quem já trabalhou dentro de uma operação sabe qual das duas vence.

A terceira é correta e cara. Volto a ela.

A segunda é a que tem tração imediata em empresa de porte médio, e é o ponto mais transportável do artigo inteiro: o indicador é o verdadeiro autor do design.

Um time avaliado por tempo de sessão vai construir um produto que prende. Um time comercial avaliado por volume de propostas enviadas vai produzir proposta genérica em série. Um suporte avaliado por chamados fechados por hora vai fechar chamado, não resolver problema. Uma equipe remunerada apenas por contrato assinado vai vender aquilo que a operação não consegue entregar, e a conta aparece três meses depois, no cancelamento, sem que ninguém ligue uma coisa à outra.

Nada disso exige má-fé. Exige apenas que alguém esteja sendo avaliado.

Por isso a pergunta prática não é qual é o nosso valor declarado. É outra: o que nós medimos, quem é avaliado por esse número e qual comportamento essa combinação torna racional para uma pessoa competente e bem-intencionada.

Design de negócio é exatamente o lugar onde métrica, incentivo e desenho de processo se encontram. E a maioria das empresas trata os três como assunto de áreas diferentes: o indicador é do financeiro, o incentivo é do RH, o processo é da operação. Ninguém é dono da soma. E a soma é o que o cliente sente.

Com um agente no meio, o efeito fica mais rápido

Isso vale com ou sem inteligência artificial no processo. Com, fica mais veloz.

Uma pessoa avaliada por um indicador ruim erra devagar. Ela hesita, reclama no corredor, inventa exceção, deixa de aplicar a regra quando o caso é escancarado demais. Esse atrito humano é ineficiência — e é também o último freio antes do dano.

Um agente automatizado não tem esse freio. Ele otimiza o indicador que recebeu, com muito mais eficiência e muito menos bom senso do que uma pessoa. Se o alvo é reduzir tempo de resposta, ele reduz. Se a forma mais eficiente de reduzir tempo de resposta for encerrar conversas antes da hora, ele encerra. Não porque foi mal construído, mas porque foi bem construído em cima do alvo errado.

A consequência prática é pouco glamourosa: antes de automatizar um processo, revise o indicador que vai governá-lo. Automatizar processo mal medido é escalar o erro com mais disciplina.

O custo da pausa, que o artigo original não resolve

A terceira recomendação tem um problema econômico que o texto não enfrenta. Pausa custa dinheiro, e ninguém define quem paga por ela.

Em mercado competitivo, quem para para avaliar impacto entrega depois de quem não para. Recomendar prudência sem dizer quem banca a lentidão é transferir o custo para quem já tem menos margem — o que, no Brasil, quer dizer quase todo mundo que não é big tech. Uma empresa que pode absorver seis milhões de dólares em indenização e ainda assim recorrer joga um jogo diferente do de uma operação de serviço com trinta pessoas.

Para empresa de porte médio, a versão viável da pausa não é um comitê de ética nem um novo ritual. É uma revisão curta, com hora marcada e dono definido, encaixada numa decisão que a empresa já toma de qualquer forma: a aprovação de escalar. Não é processo novo. É um item a mais numa reunião que já existe.

Quatro perguntas antes de escalar um processo automatizado

1. Qual é o indicador que esse processo otimiza, escrito em uma frase? Se a resposta levar um parágrafo, o time também não sabe.

2. Qual comportamento indesejado esse indicador torna racional? Não o que você teme que aconteça, e sim o que o número premia.

3. Quem é avaliado por esse indicador, e o que acontece com essa pessoa quando ele piora por um bom motivo?

4. Qual é o segundo indicador que impede o primeiro de ser maximizado sozinho, e ele está sendo olhado na mesma reunião?

A quarta é a que mais falta. Indicador solitário não tem contrapeso, e indicador sem contrapeso sempre encontra um atalho. Volume precisa de qualidade ao lado. Velocidade precisa de retrabalho ao lado. Conversão precisa de retenção ao lado. O par importa mais do que o número.

O que se transporta do caso

Nenhuma dessas perguntas transforma uma empresa brasileira de porte médio em ré num tribunal da Califórnia. A escala é outra, o ambiente regulatório é outro, e importar o risco jurídico americano para cá seria exagero analítico.

O que se transporta é o mecanismo, não a consequência. Qualquer empresa que desenha uma experiência otimizada por métrica de uso está no mesmo terreno conceitual daquele julgamento, em escala menor. E o que o caso torna visível é quase banal: o desenho de um produto é a consequência material daquilo que a empresa decidiu medir.

Me mostre o indicador que o seu time persegue e eu descrevo o produto que vocês vão entregar. Com ou sem inteligência artificial no meio.

Lincoln, Arquiteto de Negócios