1

INTELIGÊNCIA ARTIFICIAL NAS RELAÇÕES DE CONSUMO: Reflexões à

luz do histórico recente
Juliana Oliveira Domingues1
Alaís Ap. Bonelli da Silva2
Henrique Monteiro Araujo de Souza 3

INTRODUÇÃO

Há 20 anos, pouco se falava sobre a utilização de inteligência artificial nas

relações jurídicas. Entretanto, assim como verificamos em outras áreas, a
tecnologia tem alterado significativamente o formato das relações jurídicas, das
lógicas empresariais e do tratamento que deve ser dado às relações de
consumo.
A popularização da internet, ao longo da última década, e a forçosa
inserção de muitos consumidores às vendas por meio digital, em razão das
medidas de distanciamento social enfrentadas em 2020 (especialmente com a
recente pandemia da COVID-19)4, serviram como molas propulsoras ao
incremento do formato digital de compras para impedir aglomerações.
O que vimos em 2020 reflete parte das externalidades positivas que a
internet proporcionou ao consumidor brasileiro. Contudo, apesar de garantir
maior oferta de produtos e serviços e proporcionar experiências mais
personalizadas, a tecnologia também traz novos desafios, especialmente no que

1 Professora Doutora do curso de Graduação e Pós-Graduação em Direito da FDRP/USP. Foi

Visiting Scholar na Georgetown University Law School (2018) com bolsa de pesquisa de pós-
doutorado da American Bar Association. É atualmente Secretária Nacional do Consumidor do
Ministério da Justiça e Segurança Pública (Senacon). É diretora regional da Academic Society
for Competition Law (ASCOLA). Líder do Grupo de Pesquisa em Direito e Inovação da
FDRP/USP.
2 Mestranda da FDRP-USP. Advogada, professora, especialista em Direito Corporativo e

Compliance - Escola Paulista de Direito. Especialista em Direito Digital e Proteção de Dados -

EBRADI.
3 Bacharel em Direito pela Universidade de Brasília, com passagem pela Universidad Carlos III

de Madrid. Trabalhou como Consultor de Comércio Internacional e atualmente é Assessor

Técnico da Secretaria Nacional do Consumidor.
4 A pandemia de covid-19 está mudando para sempre a tendência de consumo on-line, segundo

uma pesquisa divulgada pela Agência das Nações Unidas para o Comércio e o Desenvolvimento
(Unctad) feita em nove países, incluindo o Brasil. “A pandemia COVID-19 acelerou a mudança
em direção a um mundo mais digital. As mudanças que realizarmos agora terão efeitos
duradouros à medida que a economia mundial começa a se recuperar”, afirmou o secretário geral
da United Nations Conference on Trade and Development – UNCTAD (em português,
Conferência das Nações Unidas para o Comércio e Desenvolvimento), Mukhisa Kituyi.
 2

tange às lentes jurídicas que miram questões de privacidade, consentimento e

interesse do consumidor.
Nesse sentido, cabe neste artigo tratar da inteligência artificial (IA)5,
instrumento que passou a ser utilizado em grande escala pelas empresas tanto
para melhor posicionar seus produtos no mercado como, também, para
proporcionar uma interação mais personalizada com os consumidores.
Um dos grandes desafios que podem ser observados se refere a
assimetria de informação relativa a captação de informações por meio dos
mecanismos de inteligência artificial. Por meio da captação de informações
pessoais, os algoritmos conseguem - ao menos teoricamente - tomar decisões
de forma mais objetiva, isto porque analisam as informações de maneira
imparcial e direta, enquanto decisões humanas são emanadas de outras
variáveis explicadas dos manuais de behavioural economics (BE)6.
Diferentemente da visão homo economicus, a análise da motivação e
da tomada de decisões humanas é o foco do BE que considera as dimensões
cognitivas, emocionais e as forças sociais (i.e. as decisões são tomadas e
moldadas em ambientes sociais) dos indivíduos.
Ressalta-se a discussão sobre a existência de machine bias, no qual os
próprios algoritmos apresentam comportamento tendencioso, normalmente em
razão dos dados apresentados pelo programador, o que põe em xeque a ideia
de imparcialidade da inteligência artificial, conforme sinaliza Elias (2017)7.

5 Conforme explicam Pereira e Teixeira (2019), inteligência artificial é “[...] o conjunto de

instruções, que possibilitam que as máquinas executem tarefas que são características da
inteligência humana, tais como planejamento, compreensão de linguagem, aprendizagem...”.
Desse modo, utilizando esse tipo de ferramenta, empresas podem utilizar máquinas para realizar
atividades que anteriormente requeriam serem humanos.
6 Enquanto a racionalidade econômica influenciava outros campos das ciências sociais, por meio

de Becker e da Escola de Chicago, os psicólogos ofereceram uma verificação da realidade de

fora para dentro. Nesse sentido, veja-se Amos Tversky e Daniel Kahneman que publicaram uma
série de artigos que demonstram que as decisões humanas nem sempre são ótimas. Na
perspectiva do consumidor existe disposição de assumir alguns riscos influenciados pela
maneira como as escolhas são enquadradas. Por essa razão vemos os instrumentos de
inteligência artificial cada vez mais sofisticados e com a utilização de nudges. Os nudges são
estratégias pesquisadas na escola de Economia Comportamental e considera psicológicos,
sociais, cognitivos, emocionais e econômicos nas decisões humanas. De acordo com Thaler e
Sunstein (2008) “[...] nudge é qualquer aspecto da arquitetura da escolha que altera o
comportamento das pessoas de uma forma previsível sem proibir nenhuma opção nem alterar
significativamente as consequências econômicas”.
7
No entanto, a ideia de machine bias ainda não é completamente difundida na sociedade, de
modo que a ideia de decisões tecnológicas imparciais parece ter aceitação.
 3

Ocorre que esse refinamento proporcionado pelas tecnologias e a busca

por resultados “mais eficientes” podem trazer grandes prejuízos para os
consumidores, nos termos da nossa legislação e especificamente do Código de
Defesa do Consumidor que recentemente completou 30 anos8.
Nesse sentido, cabe destacar que, apesar da utilização de inteligência
artificial ser uma realidade e trazer vantagens relevantes, não se exime a
responsabilidade decorrente de eventuais práticas abusivas ou em desacordo
com a legislação pátria, tal como veremos a seguir.

2 EXPOSIÇÃO DE DADOS E O USO DA INTELIGÊNCIA ARTIFICIAL NAS

RELACÕES DE CONSUMO

Enquanto navegamos pela internet, não é raro quando nos deparamos

com anúncios direcionando produtos que acabamos de buscar por meio dos
mecanismos digitais. Isto porque, a todo tempo, algoritmos estão observando,
interpretando e emitindo reações para atitudes humanas.
Tal como no desenho dos Jetsons, famoso no Brasil nos anos 80, eventos
que pareciam distantes – tais como robôs limpando a casa, consultas médicas
online etc. -, somente presentes em cenários fictícios, estão cada dia mais
próximos de nossa realidade. Veja-se que, eletrodomésticos, eletroeletrônicos e
até mesmo casas inteiramente denominadas como “inteligentes”, já podem ser
encontrados com relativa facilidade.
As programações de inteligência artificial permitem que esses seres
inanimados consigam responder aos inputs de atitudes humanas previamente
programadas. Conforme progride, a IA passa a responder aos estímulos
humanos, tanto para solucionar ocorrências com raciocínio lógico e
interpretação, quanto para aprender com as experiências. Felizmente, o seu
desenvolvimento tem evoluído para não só reproduzir os processos cognitivos
humanos, mas, também, para fazê-lo com maior eficiência e agilidade.

8
Veja-se: DOMINGUES, Juliana Oliveira. Senacon e os 30 anos do Código de Defesa do
Consumidor. Estadão. Set. 2020. Disponível em: https://politica.estadao.com.br/blogs/fausto-
macedo/senacon-e-os-30-anos-do-codigo-de-defesa-do-consumidor/. Acesso em: 02 mar. 2021
 4

Nanfang (2018)9, aborda o quanto a Inteligência Artificial pode facilitar a

execução das técnicas de automação para potencializar os resultados analíticos
da inteligência humana, por exemplo, promovendo agilidade e eficiência na
conclusão das atividades. A autora defende a utilização da inteligência artificial
como forma de aumentar a eficiência do processo de fiscalização tributária, uma
vez que o uso da tecnologia permite maior organização, facilita na tomada de
decisões complexas e contribui para a verificação de fraudes tributárias.
Sendo assim, não se nega o potencial colaborativo da inteligência artificial
para muitas das atividades que envolvem relações jurídicas. Nesse sentido, a
evolução tecnológica permite que formas de inteligência artificial passem a
utilizar técnicas avançadas para desempenhar funções humanas ou, ainda,
passem dirigir essas relações.
Atualmente, existem diversas situações comuns ao cotidiano humano que
envolvem o reconhecimento facial e de voz (por exemplo, os smartphones),
assim como temos o atendimento eletrônico das empresas dirigidos por
programas de IA, sem contar as sugestões de produtos direcionados em mídias
sociais. São os agentes inteligentes que analisam os dados coletados por
intermédio das plataformas de buscas e, por meio da monetização de tais
informações, transfere-as para as mídias sociais que conseguem enviar
anúncios patrocinados e personalizados para cada usuário.
Da mesma forma, podemos ver facilidades para o consumidor quando a
IA, por meio da localização obtida pelo GPS presente em aparelhos eletrônicos,
consegue emitir critérios de avaliação de estabelecimentos após uma visita, ou
permite localizar um aparelho ou produto extraviado, independente de sua
conexão e funcionamento.
Ou seja, é inegável que os algoritmos possuem grande poder analítico e
decisório, assim como conseguem mapear os gostos e preferências de milhares
de consumidores no mundo todo. Se por um lado, isto facilita e promove um
ambiente favorável às comparações entre serviços, produtos e fornecedores, por
outro temos coleta de dados de consumidores sendo realizadas diuturnamente.

9
NANFANG, Zhuowen Huang. Discussion on the Development of Artificial Intelligence in
Taxation. American Journal of Industrial and Busineess Management, 2018, v.8, 1817-1824.
Disponível em: < https://www.scirp.org/JOURNAL/PaperInformation.aspx?PaperID=86895>.
ISSN On-line: 2164-5175> Acesso em: 27 set. 2020.
 5

Com o exponencial aumento do comércio eletrônico e do uso das

plataformas digitais em 2020, a utilização de plataformas de streaming, compras
100% online, pagamentos totalmente digitais, delivery de alimentos, entre outros
serviços foram intensificados diante da pandemia de COVID-19 e seguem na
preferência dos consumidores brasileiros10.
No entanto, temos aqui uma falha de mercado bastante presente, tal como
explicado no início: a assimetria de informação. E isto ocorre porque não há
mecanismos de transparência que indiquem quais são os dados que estão sendo
captados dos usuários das plataformas digitais, de modo que a privação de
transparência e accountability dificulta significativamente a análise e as
investigações a respeito das supostas violações aos consumidores, assim como
as ações anticompetitivas e abusivas dos agentes inteligentes. De acordo com
dados coletados pelo Instituto de Pesquisa Capgemini, o índice de interações
diárias com inteligência artificial no Brasil é bem maior do que muitos imaginam:
o Brasil assume o posto de vice-campeão com maior interação diária exercida
por inteligência artificial entre os clientes11.
Trazendo a reflexão a luz do direito do consumidor, como mencionamos
anteriormente, a inteligência artificial tem um papel crucial nas relações
consumeristas. Em realidade, a utilização de aparelhos robóticos para interação
direta com o cliente é capaz de agilizar processos massificados de resposta ao
cliente, ao mesmo tempo em que se diminui os custos do atendimento. Isso se
torna particularmente relevante considerando a necessidade de alguns setores
de manter o atendimento 24 (vinte e quatro) horas para os clientes, o que torna
o serviço mais caro12.

10
A influência que a utilização de inteligência artificial tem atualmente indica o quanto este
mecanismo tende a crescer e tornar-se cada dia mais parte da vida de cada ser humano. Elias
(2017) dá alguns exemplos de utilidades para os algoritmos que utilizam a inteligência artificial:
Algoritmos baseados em Machine Learning são utilizados para previsão do tempo, análise de
compras realizadas pelos consumidores, ajudando a empresa decidir quais as mercadorias são
as preferidas e onde elas devem estar localizadas nos supermercados, por exemplo.
11
CAPGEMINI RESEARCH INSTITUTE. The Art of Customer-Centric Artificial Intelligence:
How Organizations can unleash the full potential of AI in the customer experience. 2020.
p.6. Disponível em:https://www.capgemini.com/wp-content/uploads/2020/07/AI-in-CX_CRI-
Report_16072020_V4.pd. Acesso em: 27 de março de 2021. Ao analisar o índice publicado pela
Capgemini, observa-se que no Brasil os empresários e industriários dão preferência para
interações artificiais no contato inicial com o cliente, é a interação inicial, por exemplo, em lojas
on-line e de vendas no geral.
12
Tanto no setor de bens, quanto no setor de serviços, temos a tecnologia RPA que pode
trabalhar conjuntamente com a IA. A sigla que advém do inglês, significa robotic process
 6

Outro fenômeno crescente se refere à comercialização de produtos e

serviços nas plataformas e redes sociais que antes não tinham muito espaço
publicitário13. Em se tratando de plataformas on-line, responsáveis por
interações sociais, é possível encontrar tanto o oferecimento de bens quanto o
de serviços. A versatilidade que uma rede social oferece é bem maior do que em
qualquer site ou endereço eletrônico14 e há uma tendência crescente de
direcionamento de publicidade considerando o perfil traçado pelos mecanismos
de IA.

2.1 Inteligência Artificial nas Políticas Públicas de Direito do Consumidor

Tal como apontam diversos estudos, o “bom” uso da tecnologia e da

inteligência artificial também são capazes de trazer promover o chamado
“empoderamento do consumidor”. Isto significa promover mecanismos que
facilitam o desenvolvimento de capacidades e de maiores conhecimentos ao
consumidor em mercados considerados, geralmente, de difícil compreensão.
Com isso, termo um consumidor cada vez mais independente e bem-informado.

Nesse sentido, veja-se o documento da OCDE, Delivering Better Policies

Through Behavioural Insights (2019), que apresenta, por exemplo, uma
coletânea de diversos estudos sobre a utilização de medidores eletrônicos de

automatic, uma tecnologia que utiliza softwares e automatiza dados e processos de ponta a
ponta, sendo uma assistência que é facilmente encontrada em muitas corporações e
multinacionais espalhadas mundo afora.
13
Veja-se: DOMINGUES, Juliana Oliveira; SILVA, Breno Fraga Miranda. Fake news: um desafio
ao antitruste? In: DOMINGUES, Juliana et al (Coord) Direito Antitruste 4.0: Fronteiras entre
Concorrência e Inovação. 1ed.São Paulo: Editora Singular, 2019, p. 145 – 168
14
A aplicação de inteligência artificial na plataforma com o objetivo de colher diversas
informações de seus usuários. Em realidade, a inteligência artificial utilizada pela plataforma
pode ser utilizada até mesmo para detectar se uma pessoa apresenta sinais de depressão e se
precisa de socorro urgentemente. Os sinais da doença são detectados na plataforma por meio
de algoritmos que ligam comentários preocupantes e que merecem suporte e os entregam aos
moderadores da rede social. Caso a situação seja grave no momento, é possível que os serviços
de emergência sejam acionados. Cf. FÁBIO, André Cabette. A técnica que detecta depressão
em posts do Facebook. Nexo Jornal. 8 nov 2018. Disponível em:
https://www.nexojornal.com.br/expresso/2018/11/08/A-t%C3%A9cnica-que-detecta-
depress%C3%A3o-em-posts-do-Facebook. Acesso em: 26 fev 2021.
 7

energia elétrica que permitem acesso instantâneo ao consumo de energia e aos

valores das tarifas a qualquer momento15.

Dessa forma, com essas informações, o consumidor pode tomar decisões

mais informadas sobre o seu consumo de energia, evitando a utilização em
momentos nos quais as taxas podem ser mais altas (horários de pico). De acordo
com os resultados apresentados pela OCDE, mais de um estudo encontrou que
a instalação desses instrumentos acarretou a diminuição do uso de energia
elétrica, mostrando a relevância da inteligência artificial para fins de execução
de uma política pública no setor de energia mais responsiva e eficiente16.

Vale destacar, também, que o uso desse tipo de ferramenta também pode
tornar o consumidor mais consciente sobre as suas próprias necessidades de
consumo, criando melhores mecanismos de escolhas e um incentivo para a
compreensão sobre os produtos e serviços adquiridos.

Em termos de execução de políticas públicas voltadas ao consumidor, o

exemplo acima demonstra como a IA pode ser um instrumento valioso.
Entretanto, é importante observar as dinâmicas de todos os mercados antes de
se fazer a escolha pelo uso de inteligência artificial no desenho de políticas
públicas. E é por essa razão que entender os padrões de concorrência, os
padrões de consumo, as barreiras a entrada, entre outros aspectos, de cada
mercado são passos fundamentais no desenho de políticas públicas
consumeristas, assim como é fundamental compreender as características do
mercado consumidor.

No caso explorado pela OCDE, isto é, no mercado de energia, cabe

destacar que o Estado, regra geral, tem interesse não desprezível na diminuição
do consumo de energia, considerando três fatores distintos e complementares:
i) as particularidades do setor, ii) a sensibilidade do sistema elétrico e iii) a
dificuldade de aumento da produção em curto período. Isso, sem contar, em
muitos casos, os objetivos de transição energética. Além disso, o fornecimento
de energia elétrica é comumente regulado pelo Estado, em razão de se tratar de

15
OCDE. Delivering Better Policies Through Behavioural Insights, 2019. Disponível em:
<https://www.oecd-ilibrary.org/governance/delivering-better-policies-through-behavioural-
insights_6c9291e2-en >. Acesso em: 24 de fevereiro de 2021.
16 Ibidem
 8

serviço essencial, de modo que a existência de órgãos especializados com

recursos direcionados e poder de regulamentação facilita a aplicação desse tipo
de medida.

2.2. Inteligência Artificial como instrumento potencialmente nocivo ao

Consumidor

Como tudo praticamente tem dois lados, também é necessário trazer para
reflexão os potenciais riscos ao consumidor diante da disseminação do uso da
inteligência artificial. Nesse sentido, existe uma preocupação crescente com o
aumento da vulnerabilidade do consumidor, considerando que a tecnologia
empregada é de grande complexidade e que a forma como esse tipo de
ferramenta é utilizada não é explicada de forma clara para o consumidor. Ou
seja, o consumidor fica refém da assimetria informacional e com diversas
dúvidas em razão da falta de transparência.

Isso se torna extremamente claro em relação a coleta e armazenamento

de dados, no quais muitas vezes o consumidor nem mesmo entende a extensão
das informações adquiridas pelos fornecedores17. Dificilmente o consumidor tem
consciência que ao baixar um aplicativo, ou entrar em um site, pode estar,
também, fornecendo de maneira ininterrupta as informações sobre a sua
localização, indicando suas preferências pessoais e até mesmo permitindo o
acesso a suas conversas.

Logo, por meio da tecnologia empregada – e a depender do nível de

sofisticação dos mecanismos empregados de IA -, é possível identificar rotinas
e comportamentos inconscientes, como a rota mais comum utilizada nos fins de
semana, as comidas favoritas no delivery online, o tempo de duração média de
chamadas telefônicas ou, os produtos geralmente inseridos em cestas de
compras online no computador.

17
Sobre o tema, veja-se: DOMINGUES, Juliana Oliveira; SILVA, Breno Fraga Miranda (Org.);
GABAN, Eduardo Molan. (Org.); MIELE, Aluísio Freitas (Org.). Direito Antitruste 4.0: Fronteiras
entre Concorrência e Inovação. 1. ed. São Paulo: SIngular, 2019. v. 1. 176 p.
 9

O tema é especialmente desafiador. Estamos diante de fenômenos

interdisciplinares que tem lentes jurídicas diferenciadas para tratar de fenômenos
jurídicos não triviais. Por meio da exploração dos dados obtidos em operações
de compras on-line, por exemplo, podemos ao mesmo tempo identificar
potenciais violações ao Código de Defesa do Consumidor, à Lei Geral de
Proteção de Dados e ao Direito Concorrencial (antitruste)18.
É indispensável a reflexão a respeito da utilização da inteligência artificial
e os conflitos a ela inerentes a fim de encontrar propostas e instrumentos
jurídicos que possam transformar as dificuldades apontadas em possibilidades
de ação que contribuam para um mercado concorrencialmente justo e
efetivamente justo para todos os consumidores19.
Medidas definidas exclusivamente por agentes inteligentes, envolvem
riscos que tem o potencial de influenciar na competição econômica – ou na
ausência desta, nos casos de cartéis direcionados por algoritmos20 -, fazendo
com que a monetização de dados seja utilizada de maneira prejudicial não
apenas das relações de consumo, como, também, para a livre concorrência.
Tanto a livre iniciativa, como a livre concorrência e o direito do consumidor são
princípios basilares fixados no art. 170 da nossa Constituição Federal.
No que se refere às decisões de máquinas e algoritmos, entende-se que
quando geram danos para o bem-estar social, estas não podem permanecer em
um limbo de permissibilidade em que não se aplicam reparações decorrentes da

18 Sobre o tema, veja-se: DOMINGUES, Juliana Oliveira. Big Techs e o Direito Antitruste 4.0.
Folha de São Paulo. Jun. 2019. Disponível em: <
https://www1.folha.uol.com.br/opiniao/2019/06/big-techs-e-o-direito-antitruste-40.shtml> Acesso
em: 2 março 2021. No que se refere à discussão do fenômeno na perspectiva do conceito de
bem-estar do consumidor (para além da eficiência econômica) e a atual discussão sobre os
valores tradicionais da escola de Chicago, veja-se: DOMINGUES, Juliana Oliveira; GABAN,
Eduardo Molan. Direito Antitruste e Poder Econômico: o movimento populista e “neo-
brandeisiano”. Revista Justiça Do Direito, 33(3), 2019, pp. 222-244. Disponível em: <
http://seer.upf.br/index.php/rjd/article/view/10429/114115168> Acesso em 2 mar. 2021.
19 Ana Frazão destaca que a inteligência artificial, para ser confiável, precisa ser lícita, ética e

robusta, tanto da perspectiva técnica quanto da perspectiva social, considerando os riscos - ainda
que não intencionais - que oferece para a democracia, as garantias legais (rule of law), a justiça
distributiva, os direitos fundamentais e mesmo a mente humana. Cf. FRAZÃO, Ana. Big data e
impactos sobre a análise concorrencial. Jota. 28 nov.2017. Disponível em:
https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/big- data-e-
impactos-sobre-a-analise-concorrencial-28112017
20
Veja-se: DOMINGUES, Juliana Oliveira; SAAD-DINIZ, E. Ilícitos concorrenciais praticados por
sistemas de inteligência artificial: da ficção ao compliance. In: Frazão, Ana; Mulholland; Caitlin.
(Org.). Direito e Inteligência Artificial: Ética, Regulação e Responsabilidade. 1ed.São Paulo:
Revista dos Tribunais, 2019, p. 349-371.
 10

ausência de responsabilidade e de controle de riscos. Por este motivo,

indispensável entender as formas eficientes de maximizar o potencial benéfico
da IA e, ao mesmo tempo, desenhar instrumentos efetivos que possam mitigar
as práticas abusivas, bem como criar mecanismos apropriados de
responsabilização dos agentes responsáveis pelo acometimento de abusos,
sejam estes humanos ou artificias.

2.3 O futuro da Inteligência Artificial pós Covid-19

Durante o pico da pandemia de coronavírus, em 2020, observamos

inegáveis benefícios decorrentes da tecnologia, em todas as áreas. Sem dúvida
alguma, são inúmeros os bons exemplos do uso da inteligência artificial durante
a aplicação de medidas de distanciamento social que trouxeram benefícios aos
consumidores e para toda sociedade, reforçando a importância de se investir em
tais ferramentas.
No ano 2020, aumentou de maneira substancial o uso de aplicativos de
contact-tracing para contenção do contágio da COVID-19, bem como o aumento
da popularidade de apps de apoio à saúde durante o período de quarentena.
Entretanto, segue presente a assimetria informacional: pouco se sabe,
efetivamente, se tais mecanismos foram puramente desenvolvidos para atender
o apoio à saúde ou se tais instrumentos foram desenhados para coletar
metadados que resultem em perfis comportamentais dos usuários com o intuito
de prever e estimular condutas para fins de marketing21.
Ainda sobre o tema, existem estudos que indicam que tais aplicativos
também podem permitir a prática de digital phenotyping ou fenotipagem digital,
prática na qual se utiliza as informações pessoais do usuário por meio
tecnológico para quantificar o fenótipo e identificar possíveis transtornos. De

21 TIMBERG, C.; HENDRIX, S.; KIM, M.J.; WEBER-STEINHAUS, F. Cellphone apps designed to
track covid-19 spread struggle worldwide amid privacy concerns. The Washington Post,
Washington, 2020. Disponível em:
https://www.washingtonpost.com/technology/2020/08/17/covid-tracking-apps-cellphones/.
Acesso em: 28 fevereiro. 2021.
 11

acordo com Carvalho e Pianowski (2019)22: “o digital phenotyping refere-se à

quantificação in-situ do fenótipo humano, usando dados pessoais de dispositivos
digitais”, o que hoje pode ser considerado como ofensa a Lei Geral de Proteção
de Dados e, também, ao Código de Defesa do Consumidor quando não há o
consentimento do usuário.
Nesse contexto, é também importante ressaltar o relatório de janeiro de
2020 de título “Out of Control” de autoria do Conselho do Consumidor da
Noruega (Forbruker Rådet), que procurou descrever e trazer informações sobre
este tema. Referido relatório explorou como dez dos apps investigados agem
totalmente “fora de controle” na medida em que atuam à revelia de suas políticas
de privacidade (construídas supostamente em conformidade com o
Regulamento Geral sobre Proteção de Dados), compartilhando
indiscriminadamente dados pessoais (inclusive alguns considerados sensíveis),
com uma rede de centenas de empresas de publicidade digital. Os apps
observados incluem alguns bem conhecidos pelos brasileiros: os de
relacionamentos Tinder, OkCupid e Grindr, de jogos e entretenimento para
crianças My Talking Tom, de maquiagem Perfect365, de monitoramento de ciclo
menstrual MyDays e de religião muçulmana Muslim - Qibla Finder.23
O exemplo acima evidência que devemos acompanhar, com cautela, a
forma pela qual se coletam os dados pessoais, diante da crescente utilização de
referidos dados para a personalização de serviços.
Não se nega o bem-estar maximizado pelos instrumentos disruptivos
surgidos com o refinamento dos mecanismos de AI, uma vez que agentes
inteligentes têm ganhado espaço concreto nas relações de consumo ao oferecer
vantagens que anteriormente não poderiam ser obtidas. Entretanto, o “mau” uso
de dados de consumidores, sem consentimento, configura violação ao CDC.
Também é importante observar a vantagem competitiva que alguns
fornecedores possuem em razão da quantidade de dados coletada e mineradas

22
CARVALHO, Lucas de Francisco; PIANOWSKI, Giselle. Digital phenotyping and personality
disorders: a necessary relationship in the digital age. Psicol. teor. prat., São Paulo, v. 21, n.
2, p. 122-133, ago. 2019. Disponível em
<http://pepsic.bvsalud.org/scielo.php?script=sci_arttext&pid=S1516-
36872019000200005&lng=pt&nrm=iso>. acessos em: 01
mar. 2021. http://dx.doi.org/10.5935/1980-6906/psicologia.v21n2p153-171.
23
FORBRUKERRADET. Out of control: how consumers are exploited by the online advertising
industry. 2020. Disponível em: https://fil.forbrukerradet.no/wp-content/uploads/2020/01/2020-01-
14-out-of-control-final-version.pdf. Acesso em: 28 de fevereiro de 2021.
 12

por instrumentos de machine learning e de IA. Regra geral, os fornecedores que

possuem mais informações de seus consumidores tendem a aumentar a sua
capacidade de vendas, confirmando-se a premissa construída no mundo digital
de que: quanto maior a coleta dos dados pessoais, melhores são os resultados.
Isto, via de regra, ocorre devido ao data-driven network effects; isto é, a
ideia que quanto mais usuários utilizam um serviço ou produto, mais atraente
este se torna, especialmente em razão das economias escala e escopo
relacionadas aos dados coletados. Referidos efeitos de rede, por sua vez,
poderiam gerar um efeito de “aprisionamento do consumidor” (lock in), à medida
que aumentariam os custos de troca dos usuários24.
Partindo deste pressuposto, cabe aos usuários decidirem qual tipo de
risco vale a pena correrem para conquistarem algumas vantagens. Para o
consumidor consciente vale a reflexão: i) Será que vale a pena conceder
informações pessoais para obtenção de resultados individualizados? ii) Seria
vantajoso fornecer o CPF em troca de descontos ilusórios? iii) Deveria clicar em
um site direcionado cuja procedência é suspeita ou desconhecida?
No entanto, para que os consumidores possam, de fato, tomar tais
decisões, mostra-se necessária uma mudança cultural. É importante que, diante
de todos esses fatores, os fornecedores disponibilizem, de maneira clara e
acessível, quais as informações vão ser registradas, obtidas, como elas serão
armazenadas e/ou se essas informações poderão ser compartilhadas no futuro.

3 O USO DE AI NAS RELAÇÕES DE CONSUMO NO BRASIL: reflexões sobre

casos recentes tratados pela Secretaria Nacional do Consumidor.

Conforme vimos acima, a captação de dados propicia que as empresas

sejam capazes de identificar as preferências individuais de cada usuário e,
portanto, possam ofertar um serviço mais personalizado aos consumidores.
Dessa forma, teoricamente, há benefícios tanto para os fornecedores, que
conseguem vender seus produtos com maior facilidade, quanto para os

24
ALEMANHA. BUNDESKARTELLAMT. Facebook, Exploitative business terms pursuant to
Section 19(1) GWB for inadequate data processing. 2019. Disponível em:
https://www.bundeskartellamt.de/
SharedDocs/Entscheidung/EN/Fallberichte/Missbrauchsaufsicht/2019/B6-22-
16.pdf?__blob=publicationFile&v=4. Acesso em 28 de fev de 2021.
 13

consumidores, que recebem serviços que satisfazem de maneira mais adequada

seus interesses pessoais.
No entanto, a ausência de consentimento e a exploração da
vulnerabilidade do consumidor podem tornar tal conduta potencialmente
abusiva. Quando partimos do perfil do consumidor médio, a maioria não tem
consciência do tipo de informação, ou da quantidade de dados que são
armazenados pelas empresas prestadoras de serviços que utilizam
rotineiramente. Essa falta de transparência acaba deixando boa parte dos
consumidores desprotegidos de potenciais abusos.
Portanto, o nível de transparência das empresas deve ser condizente com
o perfil e a vulnerabilidade do consumidor, de modo a garantir os direitos
protegidos pelo Código de Defesa do Consumidor (CDC).
Nesse sentido, e de modo a ilustrar a presente reflexão, exploramos um
caso recente que é relacionado à inteligência artificial. Referido caso ilustra
alguns aspectos que mencionamos ao longo deste artigo, tais como: a assimetria
de informação, a ausência de transparência e as violações à legislação brasileira
(não apenas ao Código de Defesa do Consumidor, mas ao Marco Civil e à Lei
Geral de Proteção de Dados).
Em 2020, a Secretaria Nacional do Consumidor (SENACON) do Ministério
da Justiça e Segurança Pública condenou uma importante rede varejista, em
processo administrativo sancionatório instaurado pelo Departamento de
Proteção e Defesa do Consumidor (DPDC), pela coleta de dados de seus
clientes sem informação e sem consentimento, por meio de câmeras de
reconhecimento facial instaladas em uma loja modelo da empresa. Tais câmeras
realizavam coleta de dados com i) identificação de gênero, ii) faixa etária, e iii)
reações à publicidade - que eram direcionadas de acordo o gênero do
consumidor analisado.
A Senacon, por meio do Departamento de Proteção e Defesa do
Consumidor determinou que teriam sido ofendidos os direitos básicos do
consumidor, por violação ao artigo 6º, II, III (informação) e IV (abuso de direito),
pela falta de informação clara e inequívoca acerca das informações tratadas.
O caso que foi analisado não apenas indicava a violação dos princípios
basilares do CDC, como a vulnerabilidade do consumidor, a ausência de
transparência e da boa-fé (art. 4º, CDC), tendo em vista que a empresa se
 14

aproveita da vulnerabilidade e da ignorância dos consumidores que não sabiam

do uso da tecnologia, como também ocorria a prática abusiva fixada pelo art. 39
do CDC25 e violação ao art. 4326 por existir registro de dados, mesmo que
posteriormente eliminados. Por fim, o mesmo caso identificou violação ao art. 20
do Código Civil por uso da imagem do consumidor com finalidade comercial, sem
autorização27.
No caso, foi confirmada a utilização de ferramentas de reconhecimento
facial para identificar padrões de comportamento dos consumidores, sem o
consentimento necessário. O uso da inteligência artificial, neste caso, tornou a
análise ainda mais complexa, em razão da evidente assimetria informacional.

A qualidade da informação, de maneira clara e ostensiva, é fundamental

para afastar a ilegalidade da conduta. Dessa forma, simples avisos de que o
consumidor está sendo filmado, por exemplo, não são suficientes para
considerar sanado os deveres da empresa de transparência e informação em
relação ao consumidor.

Vale esclarecer que, evidentemente, não existe violação per se do mero

reconhecimento facial. Entretanto, do ponto de vista do direito do consumidor é
essencial que os consumidores estejam munidos de informações qualitativas
que permitam a plena compreensão dos dados que estão sendo coletados.

Durante a instrução processual, o Departamento de Proteção e Defesa do

Consumidor da Senacon entendeu ser desnecessário o tratamento dos dados
para a configuração do ilícito. Em adição, a Nota Técnica destaca que mesmo a
anonimização não seria elemento suficiente para suprir o dever de informação,
conforme estabelece a legislação brasileira.

25
Artigo 39 do CDC: “Art. 39. É vedado ao fornecedor de produtos ou serviços, dentre outras
práticas abusivas: [...] IV - prevalecer-se da fraqueza ou ignorância do consumidor, tendo em
vista sua idade, saúde, conhecimento ou condição social, para impingir-lhe seus produtos ou
serviços; V - exigir do consumidor vantagem manifestamente excessiva;
26
Artigo 43 do CDC: “O consumidor, sem prejuízo do disposto no art. 86, terá acesso às
informações existentes em cadastros, fichas, registros e dados pessoais e de consumo
arquivados sobre ele, bem como sobre as suas respectivas fontes. [...].
27
Artigo 20 do CC: Salvo se autorizadas, ou se necessárias à administração da justiça ou à
manutenção da ordem pública, a divulgação de escritos, a transmissão da palavra, ou a
publicação, a exposição ou a utilização da imagem de uma pessoa poderão ser proibidas, a seu
requerimento e sem prejuízo da indenização que couber, se lhe atingirem a honra, a boa fama
ou a respeitabilidade, ou se se destinarem a fins comerciais.”
 15

De acordo com a Nota Técnica n.º 101/2019/CSA-

SENACON/CGCTSA/DPDC/SENACON/MJ que fundamentou a decisão do caso
em questão 28:

De qualquer forma, ainda que ficasse devidamente comprovada

que os dados sido comprovadamente captados e aplicados de
forma anônima ou anonimizada, isso é despiciendo para a
caracterização da infração ora apurada, uma vez que a ideia de
dado anonimizado serve para afastar o conceito de dado pessoal
– enquanto informação relacionada a pessoa natural identificada
ou identificável – para fins de aplicação da LGPD (art. 12 da Lei
13.709/2018), que sequer se encontra em vigência no presente
momento.

Na prática, dificilmente o consumidor tem o “poder de escolha”. Ou seja,

ele não se manifesta sobre “querer ou não” se submeter ao reconhecimento
facial, uma vez que, normalmente, não há nenhum tipo de ação necessária para
ensejar o funcionamento da tecnologia. Por essa razão, o nível de informação e
a forma como os avisos são posicionados pelos fornecedores são extremamente
relevantes nos pontos de venda e estabelecimentos comerciais.

A possibilidade de compartilhamento desses dados é uma questão ainda

mais séria29. Ademais, ressalta-se que a essencialidade, ou não, do serviço,
também pode ser levado em consideração para determinar o grau de informação
devido ao consumidor, sendo necessário considerar, até mesmo, o nível de
sensibilidade das solicitações de empresas que prestam serviços essenciais
quando requererem dados para o fornecimento de serviços.
Ao contrário do que acontece em outros casos envolvendo empresas
varejistas, por exemplo, os consumidores normalmente não possuem a
capacidade de recusar os serviços essenciais. Em muitos desses casos
envolvendo serviços essenciais, não há outro fornecedor para suprir a
necessidade, de modo que, na ausência de uma legislação clara, o consumidor

28
BRASIL. Ministério da Justiça e Segurança Pública. Secretaria Nacional do Consumidor.
Departamento de Proteção e Defesa do Consumidor. Nota Técnica n.º 101/2019/CSA-
SENACON/CGCTSA/DPDC/SENACON/MJ. Processo Nº 08012.005555/2015-13. Disponível
em: https://www.justica.gov.br/seus-direitos/consumidor/notas-tecnicas/anexos/
nota-tecnica-101.pdf. Acesso em: 27 de fevereiro de 2021.
29
No caso ViaQuatro, houve a disponibilização dos dados para parte fora da relação
consumerista, obtendo vantagem financeira sobre os dados aos quais não era o dono e
tampouco tinha autorização consentida para compartilha, de modo que a conduta torna ainda
mais lesiva. IDEC. Petição Inicial – Ação Civil Pública 1090663-42.2018.8.26.0100. Disponível
em: https://idec.org.br/sites/default/files/acp_viaquatro.pdf. Acesso em: 27 de fevereiro de 2021
 16

poderia se tornar refém da empresa concessionária, sendo obrigada a abrir mão

de todos as informações, uma vez que não tem outra opção.
Não se pode deixar de mencionar outro caso paradigmático envolvendo o
mau uso de compartilhamento de dados: o caso envolvendo a Cambridge
Analytica, empresa criada no ano de 2013 como parte da Strategic
Communication Laboratories Group (SCL) com a finalidade de realizar análises
de dados para fins comerciais ou políticos.
Do ponto de vista históricos, alega-se que a Cambridge Analytica vendeu
ao partido do ex-presidente Donald Trump a interpretação de dados pessoais de
cerca de 50 milhões de usuários do aplicativo Facebook, traçando um perfil
psicológico de tais pessoas com a finalidade de oferecer-lhes propagandas (no
caso políticas) com grande chance de êxito, em virtude do rastreamento de suas
informações30.
No final de 2019, o DPDC da Senacon condenou o Facebook em razão
da exposição indevida dos dados de mais de 443 mil brasileiros que
potencialmente foram afetados pelo caso da Cambridge Analytica31. Uma
particularidade específica desse caso é o fato de que o Facebook explicou que
a sua política de privacidade foi violada por um de seus usuários. E foi assim que
os dados chegaram até a Cambridge Analytica, de modo que não haveria – em
tese - responsabilidade da plataforma.
No entanto, após instrução processual, o DPDC entendeu que o próprio
modelo de negócios da empresa - que utilizava o modelo de opt-out para o
compartilhamento de dados - aumentava exponencialmente os perigos de um
vazamento de dados, de modo que a empresa seria obrigada a realizar um
monitoramento muito mais sofisticado dos dados.
Sobre este ponto, a Nota Técnica n.º 32/2019/CSA-
SENACON/CGCTSA/DPDC/SENACON/MJ explica:
Por outro lado, caso algum fornecedor queira enveredar por esta
prática, em vez de por exemplo, exigir autorização pontual e episódica
(ou algo que se traduzisse como um modelo de opt-in) para cada ato

30
LEWIS, Paul; HILDER, Paul. Leaked: Cambridge Analytica's blueprint for Trump victory. The
Guardian, San Francisco, Estados Unidos. Mar.2018. Disponível em
https://www.theguardian.com/uk-news/2018/mar/23/leaked-cambridge-analyticas-blueprint-for-
trump-victory. Acesso em 2 de mar. 2021
31
BRASIL. Ministério da Justiça e Segurança Pública. Secretaria Nacional do Consumidor.
Departamento de Proteção e Defesa do Consumidor. Nota Técnica n.º 32/2019/CSA-
SENACON/CGCTSA/DPDC/SENACON/MJ. Processo Nº 08012.000723/2018-19.
 17

de tratamento dos dados dos usuários, terá de arcar com um nível de

monitoramento, sobre os desenvolvedores de aplicações da
plataforma, muito mais eficiente do que a exigida nesse modelo de opt-
in. Afinal de contas, os riscos à privacidade dos usuários decorrentes
deste modelo mais “agressivo” de obtenção de dados de usuários são
muito mais significativos do que na primeira hipótese. Tanto isso se
confirma que, se forem considerados apenas os dados de brasileiros
que tenham feito adesão ao aplicativo do Dr. Kogan, haveria apenas
oitenta e quatro envolvidos (ou um quantitativo não muito superior a
isso), enquanto que, no modelo de opt-out adotado pelas
Representadas, esse número salta para mais de quatrocentos e
quarenta e três mil. 32

Ainda sobre o tema, em 2020 a Secretaria Nacional do Consumidor

(SENACON) elaborou nota técnica a respeito do uso de inteligência artificial para
a correção das atividades textuais dos alunos na plataforma de ensino à
distância, sem o conhecimento ou consentimento por parte desses alunos.
A Secretaria notificou as instituições de ensino para confirmar o possível
uso de inteligência artificial para correção de atividades e para identificar se os
alunos tinham sido informados previamente. Não havia, na ocasião, previsão
contratual a respeito do uso de inteligência artificial para a correção e nem
mecanismos que garantissem a qualidade da correção.
Na nota técnica n.o 40 CGEMM/DPDC/SENACOM/MJSP foi destacada a
importância de informar ao consumidor qualquer alteração substancial que
ocorra nos aspectos contratuais que são essenciais à execução do serviço. Na
perspectiva da SENACON, mudanças na forma pela qual a correção é realizada,
ainda que estejam no âmbito de discricionariedade de gestão das instituições de
ensino superior, devem ser previamente informadas aos alunos ou aos seus
responsáveis. Os cuidados referentes ao uso de IA deveriam ser seguidos em
qualquer modalidade de ensino, seja presencial ou à distância, considerando os
princípios da confiança e da boa-fé objetiva, assim como ao dever de informação,
previsto no CDC.
Na Nota Técnica, a Secretaria afirmou que não estava questionando a
legitimidade do modelo de IA que está sendo implementado pelas instituições,
que é permitido pela regulamentação vigente. A questão analisada na
perspectiva do direito do consumidor, refere-se, essencialmente, a transparência

32
BRASIL. Ministério da Justiça e Segurança Pública. Secretaria Nacional do Consumidor.
Departamento de Proteção e Defesa do Consumidor. Nota Técnica n.º 32/2019/CSA-
SENACON/CGCTSA/DPDC/SENACON/MJ. Processo Nº 08012.000723/2018-19.
 18

e consciência dos alunos sobre a utilização da tecnologia no momento da

contratação, especialmente considerando o dever de informação. Nos termos da
NOTA TÉCNICA No 40/2020/CGEMM/DPDC/SENACON/MJ

Introduzir a correção de provas via IA, subitamente, sem aviso e sem consentimento
prévio do consumidor, não é prática adequada, pois altera a modalidade tradicional
de prestação de serviço de ensino superior exercida durante anos. Ao deixar de
disponibilizar professores para correção de uma parcela das atividades, a instituição
de ensino superior pode gerar uma quebra de expectativa dos usuários do serviço,
uma vez que o padrão usual é o professor corrigir as provas dos alunos e não uma
máquina (p.03).

Atualmente existem mais de 40 investigações em curso envolvendo

compartilhamento de dados de consumidores na Secretaria Nacional do
Consumidor33, sendo que parte dos casos investigados envolve, de alguma
forma, o uso de IA. Assim, as empresas que são detentoras de dados de
consumidores devem atentar para as melhores práticas a fim de se evitar
condenações e exposição negativa à imagem decorrentes de suas condutas
potencialmente violadoras do Código de Defesa do Consumidores, dentre outras
legislações igualmente vigentes, tais como o Marco Civil da Internet e a Lei Geral
de Proteção de Dados.

CONSIDERAÇÕES FINAIS

No modelo atual, a economia global depende cada vez mais dos fluxos
contínuos de informações. As condutas mais triviais do dia a dia implicam, em
certa medida, a coleta de dados, de modo que é necessário que o consumidor
ganhe autonomia e independência para compreender o valor de seus dados e
os impactos da inteligência artificial.
Dessa forma, destaca-se, também, a necessidade de conscientização dos
fornecedores, que utilizam mecanismos de IA, para que criem um ambiente de
negócios mais transparência e em compliance com as melhores práticas, voltado
à proteção dos dados do consumidor.

33
VINHAS, Ana. Secretaria do Consumidor investiga 40 vazamentos de dados. R7 Notícias. Fev.
2021. Disponível em: https://noticias.r7.com/brasil/secretaria-do-consumidor-investiga-40-
vazamentos-de-dados-21022021. Acesso em 2 de março de 2021.
 19

Nesse sentido, é importante observar os instrumentos que divulgam as

melhores práticas internacionais. A OCDE tem demonstrado preocupação diante
do aumento de práticas abusivas no meio digital que utilizem as tendências
inconscientes para coagir o consumidor a adquirir certo produto34.
Ainda, vale observar a "Recommendation of the Council on Artificial
Intelligence", assinada pelo Brasil em 2019, que visa fixar padrões internacionais
para os sistemas de IA. Dentre esses instrumentos está a necessidade de
transparência no fornecimento de informações: isto é, a criação de mecanismos
que permitam a compreensão de quando os usuários (consumidores, neste
caso) estão lidando com sistemas de IA e não com pessoas. Esse princípio se
coaduna com o entendimento exposto pela NOTA TÉCNICA No
40/2020/CGEMM/DPDC/SENACON/MJ que reforça o dever de informação do
fornecedor que faz uso de IA sem a ciência do consumidor.
O tema segue na lista de prioridades da comunidade internacional e de
todas as autoridades públicas que lidam com os direitos dos consumidores.
Seguir a agenda de melhores práticas, reforça a necessidade dos agentes
econômicos adaptarem suas políticas de forma a atender aos princípios e
valores da nossa legislação.
Assim, espera-se maior conscientização e transparência dos agentes
econômicos para que a inteligência artificial, assim como as demais inovações
tecnológicas, progridam em consonância com os valores da nossa Constituição
Federal. É plenamente possível promover o bem-estar do consumidor alinhado
com o desenvolvimento econômico para que juntos possam propiciar a todos os
atores envolvidos, - consumidores e fornecedores de bens e serviços – todos
os benefícios da economia 4.0.

REFERÊNCIAS BIBLIOGRÁFICAS

AHMED, Usman, CHANDER, Anupam. Information Goes Global: Protecting

Privacy, Security and the New Economy in a World of Cross-border Data

34
OCDE. Delivering Better Policies Through Behavioural Insights, 2019. Paris, França:
OECD Publishing. Disponível em: <https://www.oecd-ilibrary.org/governance/delivering-better-
policies-through-behavioural-insights_6c9291e2-en >. Acesso em: 24 de fevereiro de 2021.
 20

Flows, 2015. Disponível em: <https://e15initiative.org/publications/information-

goes-global-protecting-privacy-security-and-the-new-economy-in-a-world-of-
cross-border-data-flows/>. Acesso em: 08 jan. 2021.

ALEMANHA. BUNDESKARTELLAMT. Facebook, Exploitative business terms

pursuant to Section 19(1) GWB for inadequate data processing. 2019.
Disponível em: https://www.bundeskartellamt.de/
SharedDocs/Entscheidung/EN/Fallberichte/Missbrauchsaufsicht/2019/B6-22-
16.pdf?__blob=publicationFile&v=4. Acesso em 28 de fev de 2021

BIONI, Bruno Ricardo. Proteção de dados pessoais: a função e os limites do

consentimento. Rio de Janeiro: Forense, 2019.
BRASIL, Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de
Dados Pessoais (LGPD). Diário Oficial da União: seção 1, Brasília, DF, seção
1, n. 157, p.59. 15 ago. 2018.

BRASIL. Ministério da Justiça e Segurança Pública. Secretaria Nacional do

Consumidor. Departamento de Proteção e Defesa do Consumidor. Nota
Técnica n.º 32/2019/CSA-SENACON/CGCTSA/DPDC/SENACON/MJ.
Processo Nº 08012.000723/2018-19.

BRASIL. Ministério da Justiça e Segurança Pública. Secretaria Nacional do

Consumidor. Departamento de Proteção e Defesa do Consumidor. Nota
Técnica n.º 101/2019/CSA-SENACON/CGCTSA/DPDC/SENACON/MJ.
Processo Nº 08012.005555/2015-13. Disponível em:
https://www.justica.gov.br/seus-direitos/consumidor/notas-tecnicas/anexos/
nota-tecnica-101.pdf. Acesso em: 27 de fevereiro de 2021.

BRASIL. Secretaria Nacional do Consumidor se reúne com ANPD para tratar de

acordo para proteção de dados dos consumidores BRASIL. Ministério da
Justiça e Segurança Pública. 2020. Disponível em:https://www.gov.br/mj/pt-
br/assuntos/noticias/secretaria-nacional-do-consumidor-se-reune-com-anpd-
para-tratar-de-acordo-para-protecao-de-dados-dos-consumidores Acesso em:
28 março 2021.

CAPGEMINI RESEARCH INSTITUTE. The Art of Customer-Centric Artificial

Intelligence: How Organizations can unleash the full potential of AI in the
customer experience. 2020. p.6. Disponível
em:https://www.capgemini.com/wp-content/uploads/2020/07/AI-in-CX_CRI-
Report_16072020_V4.pd. Acesso em: 27 de fevereiro de 2021.

CARVALHO, Lucas de Francisco; PIANOWSKI, Giselle. Digital phenotyping

and personality disorders: a necessary relationship in the digital
age. Psicol. teor. prat., São Paulo, v. 21, n. 2, p. 122-133, ago. 2019. Disponível
em <http://pepsic.bvsalud.org/scielo.php?script=sci_arttext&pid=S1516-
36872019000200005&lng=pt&nrm=iso>. acesso em 01
mar. 2021. http://dx.doi.org/10.5935/1980-6906/psicologia.v21n2p153-171.

CASTELLS, Manuel. A era da informação: economia, sociedade e cultura.

São Paulo: Paz e Terra, 1999.
 21

COUTURE, Stéphane; TOUPIN, Sophie. What Does the Notion of

‘Sovereignty’ Mean When Referring to the Digital?. In: New Media & Society
21, nº. 10, Out. 2019, pp. 2305–22.

DOMINGUES, Juliana Oliveira; SAAD-DINIZ, E. Ilícitos concorrenciais

praticados por sistemas de inteligência artificial: da ficção ao compliance. In:

DOMINGUES, Juliana Oliveira; GABAN, Eduardo Molan. (Org.). Declaração de

Direitos de Liberdade Econômica. Comentários à Lei 13.874/2019. 1 ed.
Salvador: Editora JusPodivm, 2020.

DOMINGUES, Juliana Oliveira; SILVA, Breno Fraga Miranda. Fake news: um

desafio ao antitruste?In: DOMINGUES, Juliana et al (Coord) Direito Antitruste
4.0: Fronteiras entre Concorrência e Inovação. 1ed.São Paulo: Editora Singular,
2019, p. 145 – 168

DOMINGUES, Juliana Oliveira. Senacon e os 30 anos do Código de Defesa do

Consumidor. Estadão. Set. 2020 Disponível em:<
https://politica.estadao.com.br/blogs/fausto-macedo/senacon-e-os-30-anos-do-
codigo-de-defesa-do-consumidor/>. Acesso em 2 mar. 2021
DOMINGUES, Juliana Oliveira; GABAN, Eduardo Molan. Direito Antitruste e
Poder Econômico: o movimento populista e “neo-brandeisiano”. Revista
Justiça Do Direito, 33(3), 2019, pp. 222-244. Disponível em: <
http://seer.upf.br/index.php/rjd/article/view/10429/114115168> Acesso em 2
mar. 2021.

DOMINGUES, Juliana Oliveira. Big Techs e o Direito Antitruste 4.0. Folha de

São Paulo. Jun. 2019. Disponível em: <
https://www1.folha.uol.com.br/opiniao/2019/06/big-techs-e-o-direito-antitruste-
40.shtml> Acesso em: 02 março 2021.

DOMINGUES, Juliana Oliveira; GABAN, Eduardo Molan; SILVA, Breno. F. M. E.

Direito Antitruste 4.0 e o abuso de posição dominante nos mercados
digitais: um desafio atual para o CADE. Disponível em:
https://www.jota.info/paywall?redirect_to=//www.jota.info/opiniao-e-
analise/artigos/direito-antitruste-4-0-e-o-abuso-de-posicao-dominante-nos-
mercados- digitais-17122018 Acesso em: 02 março 2021.

DOMINGUES, Juliana Oliveira; SILVA, Breno Fraga Miranda (Org.); GABAN,

Eduardo Molan. (Org.); MIELE, Aluísio Freitas (Org.). Direito Antitruste 4.0:
Fronteiras entre Concorrência e Inovação. 1. ed. São Paulo: SIngular, 2019.

ELIAS, Paulo Sá. Algoritmos, Inteligência Artificial e o Direito, [S.L], 2017.

Disponível em: < http://www.direitodainformatica.com.br/?p=1969>. Acesso em:
24 fev. 2021.

EUROPEAN DATA PROTECTION BOARD. Shaping a Safer Digital Future.

The EDPS Strategy 2020-2024, Julho 2020.
 22

EZRACHI, Ariel. STUCKE, Maurice. Virtual Competition – The Promise and

Perils of the Algorithm–Driven Economy. Harvard University Press, 2016.
FÁBIO, André Cabette. A técnica que detecta depressão em posts do Facebook.
Nexo Jornal. 8 nov 2018. Disponível em:
https://www.nexojornal.com.br/expresso/2018/11/08/A-t%C3%A9cnica-que-
detecta-depress%C3%A3o-em-posts-do-Facebook. Acesso em: 26 fev 2021.

FRAZÃO, Ana. Big data e impactos sobre a análise concorrencial. Disponível

em:https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-
mercado/big- data-e-impactos-sobre-a-analise-concorrencial-28112017. Acesso
em: 27 de fevereiro de 2021.

FRAZÃO, Ana; MULHOLLAND; Caitlin. (Org.). Direito e Inteligência Artificial:

Ética, Regulação e Responsabilidade. 1ed.São Paulo: Revista dos Tribunais,
2019, p. 349-371.

FORBRUKERRADET. Out of control: how consumers are exploited by the

online advertising industry. 2020. Disponível em: https://fil.forbrukerradet.no/wp-
content/uploads/2020/01/2020-01-14-out-of-control-final-version.pdf. Acesso
em: 28 de fevereiro de 2021.

HARARI, Yuval Noah. 21 lições para o século 21. Tradução Paulo Geiger. – 1ª
ed. – São Paulo: Companhia de Letras 2018. p. 432.
LEWIS, Paul; HILDER, Paul. Leaked: Cambridge Analytica's blueprint for Trump
victory. The Guardian, San Francisco, Estados Unidos. Mar.2018. Disponível em
https://www.theguardian.com/uk-news/2018/mar/23/leaked-cambridge-
analyticas-blueprint-for-trump-victory. Acesso em 2 de mar. 2021

IDEC. Petição Inicial – Ação Civil Pública 1090663-42.2018.8.26.0100.

Disponível em:https://idec.org.br/sites/default/files/acp_viaquatro.pdf
Acesso em: 27 de fevereiro de 2021

MAYER-SCHONBERGER, Viktor; RAMGE, Thomas. Reinventing capitalism in

the age of big data. New York: Basic Books, 2018.

MAGALHÃES, João Marcelo R. COMENTÁRIOS AO ART. 4º, INCISO IV:

Enunciados que impeçam ou retardem a inovação e a adoção de novas
tecnologias. In: SANTA CRUZ, André; DOMINGUES, Juliana Oliveira; GABAN,
Eduardo Molan. (Org.). Declaração de Direitos de Liberdade Econômica.
Comentários à Lei 13.874/2019. 1 ed. Salvador: Editora JusPodivm, 2020.

MENDES, Laura Schertel. "A tutela da privacidade do consumidor na internet:

uma análise à luz do Marco Civil da Internet e do Código de Defesa do
Consumidor". In: DE LUCCA, Newton; SIMÃO FILHO, Adalberto; LIMA, Cíntia
Rosa Pereira de. Direito e internet III: Marco Civil da Internet (Lei n.
12.965/2014). Tomo I. São Paulo: Quartier Latin, 2015, pp. 471-502.

MGI. McKinsey Global Institute. Digital Globalization: The New Era of Global
Flows. MANYIKA, James; LUND, Susan; BUGHIN, Jacques; WOETZEL,
 23

Jonathan; STAMENOV, Kalin; DHINGRA, Dhruv. MGI: Março de 2016.

Disponível em: <https://www.mckinsey.com/business-functions/mckinsey-
digital/our-insights/digital-globalization-the-new-era-of-global-flows>. Acesso
em: 28 de fevereiro de 2021.

MONTEIRO, Renato Leite. O Impacto da Regulação Geral de Proteção de

Dados da EU em Empresas Brasileiras, 2018, publicado em Baptista Luz
Advogados. Disponível em: <https://baptistaluz.com.br/institucional/o-impacto-
da-regulacao-geral-de-protecao-de-dados-da-ue-em-empresa-brasileira/>.
Acesso em: 27 de fevereiro de 2021.

MONTEZUMA, Luis Alberto. A look at data transfers under different data

protection regulations. 28 de agosto de 2018. Disponível em:
<https://iapp.org/news/a/a-look-at-data-transfers-under-different-data-
protection-regulations/>. Acesso em: 27 de fevereiro de 2021.

MOREIRA, Assis. Pandemia de Covid-19 mudou o consumo online para sempre,

diz Unctad. Valor Econômico. Disponível em: https://valor.globo.com/
empresas/noticia/2020/10/08/pandemia-de-covid-19-mudou-consumo-on-line-
para-sempre-diz-unctad.ghtml. Acesso em 28 de fevereiro de 2021.

NANFANG, Zhuowen Huang. Discussion on the Development of Artificial

Intelligence in Taxation. American Journal of Industrial and Busineess
Management, 2018, v.8, 1817-1824. Disponível em: <
https://www.scirp.org/JOURNAL/PaperInformation.aspx?PaperID=86895>.
ISSN On-line: 2164-5175> Acesso em 27 de Set. 2020.

NEGRÃO, Antônio Carlos. Economia Digital, Proteção de Dados e

Competitividade. In Cueva, Ricardo Villas Bôas; Doneda, Danilo; Mendes,
Laura Schertel. Lei geral de proteção de dados (Lei nº 13.709/2018): a caminho
da efetividade: contribuições para a implementação da LGPD - São Paulo:
Thompson Reuters Brasil, 2020. p. 29-37.

OCDE. A Caminho da Era Digital no Brasil. Paris, França: OECD Publishing,

26 de outubro de 2020.

OCDE. Delivering Better Policies Through Behavioural Insights, 2019. Paris,

França: OECD Publishing. Disponível em: <https://www.oecd-
ilibrary.org/governance/delivering-better-policies-through-behavioural-
insights_6c9291e2-en >. Acesso em: 24 de fevereiro de 2021.

OCDE. O avanço da transformação digital no Brasil pode reforçar a

recuperação econômica da crise da COVID-19, 2020. Paris, França: OECD
Publishing. Disponível em: <https://www.oecd.org/digital/o-avano-da-
transformaao-digital-no-brasil-pode-reforar-a-recuperaao-economica-da-crise-
da-covid-19.htm>. Acesso em: 28 de fevereiro de 2021.

OCDE. Capítulo 1. O Brasil na transformação digital: Oportunidades e

desafios, 2020. 2020. Paris, França: OECD Publishing. Disponível em:
<https://www.oecd-ilibrary.org/sites/0d4a61d4-
 24

pt/index.html?itemId=/content/component/0d4a61d4-pt#chapter-1>. Acesso em:

27 de fevereiro de 2021.

PASQUALE, Frank. The Black Box Society: The Secret Algorithms That Control
Money. Cambridge, MA: Harvard University Press, 2015.

PEREIRA, Uiara Vendrame e TEIXEIRA, Tarcísio. Inteligência Artificial: A

Quem Atribuir Responsabilidade? R. Dir. Gar. Fund., Vitória, v. 20, n. 2, p.
119-142, maio/agosto, 2019.
ROSS, Charles. The Hidden Data Economy: Companies need to get serious
about managing and leveraging data. 1º de junho de 2020. Disponível em:
<https://eiuperspectives.economist.com/technology-innovation/hidden-data-
economy-companies-need-get-serious-about-managing-and-leveraging-data>.
Acesso em: Acesso em: 27 de fevereiro de 2021.

STATISTA. Global digital population as of October 2020, 2020. Disponível

em: <https://www.statista.com/statistics/617136/digital-population-worldwide/>.
Acesso em: 27 de fevereiro de 2021.

THE BORGEN PROJECT. Top 5 beneficts of the internet in developing

countries, 2019. Disponível em: <https://borgenproject.org/top-5-benefits-of-
the-internet-in-developing-countries/>. Acesso em: 27 de fevereiro de 2021.

TELEGEOGRAPHY. Global Internet Map 2018, 2019. Disponível em:

<https://global-internet-map-2018.telegeography.com/>. Acesso em: 27 de
fevereiro de 2021.

THALER, R. H.; SUNSTEIN, C. R. Nudge: Improving decisions about health,

wealth, and happiness. The Social Science Journal. New Haven: Yale
University Press, 45. 700–701, September, 2008.

THALER, Richard. Misbehaving: the making of behavioiral economics. Nova

Iorque: W. W. Norton & Company, 2015.

TIMBERG, C.; HENDRIX, S.; KIM, M.J.; WEBER-STEINHAUS, F. Cellphone

apps designed to track covid-19 spread struggle worldwide amid privacy
concerns. The Washington Post, Washington, 2020. Disponível em:
https://www.washingtonpost.com/technology/2020/08/17/covid-tracking-apps-
cellphones/. Acesso em: 28 fevereiro. 2021

VINHAS, Ana. Secretaria do Consumidor investiga 40 vazamentos de dados. R7

Notícias. Fev. 2021. Disponível em: https://noticias.r7.com/brasil/secretaria-do-
consumidor-investiga-40-vazamentos-de-dados-21022021. Acesso em 2 de
março de 2021.

UNITED NATIONS CONFERENCE ON TRADE AND DEVELOPMENT. Digital

Economy Report 2019 Value Creation and Capture: Implications for
Developing Countries. 04 set. 2019. Disponível em:
 25

<https://unctad.org/system/files/official-document/der2019_en.pdf>. Acesso em:

27 de fevereiro de 2021.

WORKING PARTY ON THE PROTECTION OF INDIVIDUALS WITH REGARD

TO THE PROCESSING OF PERSONAL DATA (WP24). First Orientations on
Transfer of Personal Data to Third Countries - Possible Ways forward in
Assessing Adequacy, 1997.