Documente Academic
Documente Profesional
Documente Cultură
REDES SOCIAIS
E POLTICA
NO BRASIL
Estudo sobre interferncias ilegtimas no debate pblico
na web, riscos democracia e processo eleitoral de 2018
20 de agosto de 2017
Dados eletrnicos
Inclui bibliografia.
ISBN: 978-85-68823-41-5
CDD 351
As redes sociais possuem um evidente mrito de proporcionar debates e Com isso, o mundo virtual tem permitido a adaptao de velhas
amplificar vozes em um espao que permite grande repercusso. estratgias polticas de difamao e manipulao de debates pblicos,
agora em maior escala.
Diversos estudos mostram como Twitter, Facebook, entre outras
plataformas, ao possibilitarem trocas e estimularem discusses, Identificar a presena destes robs e os debates que criam de
tornaram-se instrumentos importantes da democracia. fundamental importncia para diferenciar quais situaes so reais e
quais so manipuladas no ambiente virtual. Apenas assim possvel ter
No entanto, assim como no debate pblico fora do mundo virtual, as redes compreenso efetiva dos processos sociais originados nas redes.
tambm passaram a ser usadas como um frtil espao para disseminao
de informaes falsas. O esforo de pesquisa da FGV/DAPP emite um alerta de que no estamos
imunes, e que devemos buscar entender, filtrar e denunciar o uso e a
Contas automatizadas que permitem a massificao de postagens se disseminao de informaes falsas ou manipulativas por meio desse tipo
converteram em uma potencial ferramenta para a manipulao de debates de estratgia e tecnologia. importante ter ateno e proteger os espaos
nas redes sociais, em especial em momentos de relevncia poltica. democrticos inclusive nas redes sociais.
Na greve geral de abril de 2017, por exemplo, mais de 20% das interaes s vsperas de incio do ano eleitoral que definir o prximo
ocorridas no Twitter entre os usurios a favor da greve foram provocadas presidente brasileiro, cujas campanhas se anunciam de extremo
por esse tipo de conta. Durante as eleies presidenciais de 2014, os acirramento, torna-se essencial mapear os padres de uso desses
robs tambm chegaram a gerar mais de 10% do debate. mecanismos, a fim de evitar intervenes ilegtimas no debate como j
verificado em outros pases.
Ao identificarmos robs operando para um campo, porm no queremos dizer Identificar esses robs torna-se assim um desafio da maior importncia, uma
que os atores polticos e pblicos ali situados sejam responsveis diretos pelos vez que sua operao cada vez mais refinada e capaz de replicar o padro
robs a seu favor. Diversos grupos de interesse podem estar fazendo uso desse humano com mais preciso. Diferenciar o dado real do manipulado, na anlise
tipo de recurso de disseminao de informaes. Na verdade, lato sensu, h dos processos sociais e polticos em pleno curso, definidor tanto para o governo
robs at operando do exterior. Isso inclusive enseja a reflexo de manipulao cujo processo de tomada de deciso deve estar ancorado em informaes
no s interna, mas tambm para alm dos campos polticos nacionais, qualificadas como para a sociedade civil, que reverbera a agenda produzida
sugerindo a hiptese da possibilidade de at mesmo outros atores, estranhos nas redes em debates e aes fora delas.
ao quadro nacional, operarem nas redes esses mecanismos.
Por isso a FGV/DAPP desenvolveu um sistema apurado de identificao de
O crescimento da ao concertada de robs representa, portanto, uma ameaa contas suspeitas que atuam como robs, gerando contedo algoritmicamente,
real para o debate pblico, representando riscos, no limite, democracia, ao e cujos resultados demonstram o importante papel jogado pelos robs em
manipular o processo de formao de consensos na esfera pblica e de seleo momentos-chave da poltica brasileira recente. Trata-se, pois, de um risco real
de representantes e agendas de governo que podem definir o futuro do pas. e comprovado ao debate pblico legtimo na democracia brasileira.
I
mportante meio de comunicao, informao e construo de conexes, as notcias falsas e teorias conspiratrias, geram desinformao e poluio de
redes sociais so parte cada vez mais significativa do dia a dia das pessoas. contedo, alm de atrair usurios para links maliciosos que roubam dados
Estudos realizados pelo Pew Research Center mostram, por exemplo, que pessoais, entre outros riscos.
a maioria dos adultos nos Estados Unidos (62%) se informa por meio das
redes sociais. No entanto, 64% afirmam que as notcias falsas que circulam Ao mesmo tempo, as redes sociais se tornaram parte integral no apenas da
nas redes causam confuso sobre fatos e acontecimentos dirios. No Brasil, vida pessoal dos cidados, mas da sua atividade poltica e da atuao dos
a Pesquisa Brasileira de Mdia 2016, realizada pela Secretaria Especial de seus representantes. Os partidos e demais movimentos de representao
Comunicao Social (Secom) da Presidncia da Repblica, revela que 49% social tambm aproveitam o espao para engajar eleitores assim como para
das pessoas j se informam pela internet, uma fatia em rpido crescimento. atacar opositores e pautar debates em torno de seus interesses. Nesse caso,
nesse ambiente de confiana, mas de alta circulao de informaes comum observar o uso orquestrado de redes de robs (botnets) para gerar
duvidosas que os robs se proliferam. um movimento em determinado momento, manipulando trending topics e o
debate em geral.
A princpio, as contas automatizadas podem at contribuir positivamente em
alguns aspectos da vida nas redes sociais. Os chatbots (chats operados por Estas aes tm sido identificadas em grandes eventos da poltica
robs), por exemplo, agilizam o atendimento a clientes de empresas e, em internacional, como as eleies americanas de 2010, a eleio de Donald
alguns casos, at auxiliam refugiados a processarem seus pedidos de visto. Trump em 2016 e o plebiscito de sada do Reino Unido da Unio Europeia,
Porm, o nmero crescente de robs atua na verdade com fins maliciosos. o Brexit. No Brasil, o cenrio no diferente: aes orquestradas de robs
Os robs sociais (social bots) so contas controladas por software que ocorreram em momentos-chave da poltica nacional, como a aprovao da
geram artificialmente contedo e estabelecem interaes com no robs. Reforma Trabalhista, a greve geral de 2017, as eleies de 2014, o debate
Eles buscam imitar o comportamento humano e se passar como tal de sobre o Impeachment e a eleio municipal de So Paulo em 2016, como
maneira a interferir em debates espontneos e criar discusses forjadas. mostraremos frente.
A
o interferir em debates em desenvolvimento nas redes sociais, robs a discusso em questo. Esta ao, que conta com o compartilhamento
esto atingindo diretamente os processos polticos e democrticos de links como principal mecanismo de propagao, tenta evitar ou
atravs da influncia da opinio pblica. Sua ao pode, por exemplo, diminuir o peso do debate sobre determinado assunto. Para isso, os robs
produzir uma opinio artificial, ou dimenso irreal de determinada opinio ou
geram um nmero enorme de informaes, que chegam at os usurios
figura pblica, ao compartilhar verses de determinado tema, que se espalham
simultaneamente s informaes reais e relevantes, que acabam tendo
na rede como se houvesse, dentre a parcela da sociedade ali representada,
seu impacto diminudo. Assim, a atuao de robs no apenas dissemina
uma opinio muito forte sobre determinado assunto (Davis et al., 2016). Isso
acontece com o compartilhamento coordenado de certa opinio, dando a ela notcias falsas, que podem ter efeitos nocivos para a sociedade, mas
um volume irreal e, consequentemente, influenciando os usurios indecisos tambm busca ativamente impedir que os usurios se informem de
sobre o tema e fortalecendo os usurios mais radicais no debate orgnico, maneira adequada.
dada a localizao mais frequentes dos robs nos polos do debate poltico.
Outra estratgia comum dos perfis automatizados o compartilhamento
de links maliciosos, que tem como fim o roubo de dados ou informaes
Os perfis automatizados tambm promovem a desinformao com a pessoais. Essas informaes podem ser usadas para a criao de
propagao de notcias falsas e campanhas de poluio da rede. Robs novos perfis robs que tenham caractersticas que auxiliem estes
frequentemente usam as redes sociais para reproduzir notcias falsas robs a iniciarem conexes nas redes com usurios reais, como fotos
com o objetivo de influenciar determinada opinio sobre uma pessoa ou de perfil. Uma ao comum e que costuma gerar suspeita sobre a
tema, ou poluir o debate com informaes reais, porm irrelevantes para atuao de robs a marcao por parte de um usurio desconhecido
Tambm j foram detectadas aes de robs com o objetivo de Este tipo de atuao sugere que as redes sociais, usadas por tantas
manipular o mercado de aes. Isso ocorre quando redes de robs so pessoas para fins de informao, podem estar na verdade contribuindo
colocadas em funcionamento para gerar conversas que envolvam de para uma sociedade menos informada, manipulando o debate pblico e
maneira positiva determinada empresa ou tema, manipulando, assim, determinando de maneira consistente os rumos do pas.
os sistemas das corretoras de acompanhamento do debate nas redes.
Desta forma, aes em questo podem ser valorizadas com base em
um otimismo forjado pela ao de robs.
R
obs so usados nas redes sociais para propagar informaes falsas, criando comunidades mistas - que incluem perfis reais e falsos (Ferrara
maliciosas, ou gerar um debate artificial. Para isso, precisam ter o maior et al., 2016).
nmero possvel de seguidores. Mas como um perfil automatizado pode
criar uma rede em torno de si?
Alguns robs pretendem apenas desviar a ateno para um determinado
tema e, por isso, se preocupam menos com a sua similaridade com um
Os robs tm maior facilidade de propagao no Twitter do que no usurio humano do que com a intensidade e a capacidade de modificar o
Facebook por uma srie de motivos. O padro de texto do Twitter (140 rumo do debate nas redes. Outros mecanismos, contudo, possuem uma
caracteres) gera uma limitao de comunicao que facilita a imitao srie de estratgias para imitar o comportamento humano e, assim, serem
da ao humana. Alm disso, o uso de @ para marcar usurios, mesmo reconhecidos como tal tanto por usurios e por sistemas de deteco.
que estes no estejam conectados a sua conta na rede, permite que os
robs marquem pessoas reais aleatoriamente para inserir um fator que Sabendo que o comportamento humano nas redes sociais tem algum padro
se assemelhe a interaes humanas. temporal na produo e no consumo de contedo, os perfis so programados
para postar de acordo com essas mesmas regras. Paradoxalmente,
Robs tambm se aproveitam do fato de que, geralmente, as pessoas justamente a falta de padro tanto temporal quanto de contedo no longo
so pouco criteriosas ao seguir um perfil no Twitter, e costumam agir prazo que os robs tm mais dificuldade de imitar, e o que costuma permitir
de maneira recproca quando recebem um novo seguidor. Experimentos a sua identificao (Brito, Salvador e Nogueira, 2013). Os algoritmos mais
mostram que no Facebook, plataforma na qual as pessoas costumam ser modernos vo alm: conseguem identificar perfis populares e segui-los,
um pouco mais cuidadosas ao aceitar novos amigos, 20% dos usurios identificar um assunto sendo tratado na rede e gerar um pequeno texto
reais aceitam pedidos de amizade de maneira indiscriminada, e 60% por meio de programas de processamento de linguagem natural (natural
aceitam sempre que possuem ao menos um amigo em comum. Dessa language algorithms) e gerar certo grau de interao.
N
o h uma caracterstica nica que indique categoricamente se Tambm h diferentes hipteses que podem ser usadas para embasar a
determinado perfil pertence a um usurio real ou falso, automatizado. busca por robs nas redes. Com o mtodo que utiliza conexes entre perfis
A identificao fruto da composio de mltiplas caractersticas e e dados disponveis sobre o comportamento na rede social como frmula
indicadores inter-relacionados. As pesquisas nesse campo se distribuem entre de identificao de robs, alguns sistemas assumem que estes perfis
trs principais linhas de mtodos: a) a partir de informaes disponveis nas automatizados estaro primordialmente ligados a perfis semelhantes,
prprias redes sociais; b) sistemas baseados em contribuio colaborativa especialmente no incio da sua vida digital. Isso porque eles precisam
(crowdsourcing) e inteligncia humana para identificar os perfis de robs; construir uma base de seguidores para parecerem crveis aos olhos dos
e c) atravs de aprendizado de mquinas (machine-learning), baseado na usurios reais.
identificao de determinadas caractersticas que permitem a automatizao
da diferenciao entre robs e pessoas (Ferrara et al, 2016). Esse mtodo, no entanto, precisa ser ponderado pelo fato de que usurios
humanos so pouco criteriosos com relao a interaes e amizades com
contas desconhecidas, em especial no Twitter. Com isso, aps certo tempo
de existncia, as contas de robs tero redes mistas, no primordialmente
compostas por robs ou por humanos. O volume de robs dentre os amigos
do perfil, contudo, pode ser um indicativo de sua natureza.
A
s massas de dados coletadas pela FGV/DAPP so compostas por 4. O debate da Rede Globo com os candidatos a prefeito de
metadados informaes a respeito dos dados em si e, por meio So Paulo no dia 29 de setembro de 2016;
deles, exploramos as possibilidades de identificao de contas que 5. A greve geral no dia 28 de abril de 2017;
tenham atuado automaticamente durante os perodos das anlises. Assim, 6. A votao da Reforma Trabalhista no Senado,
identificamos que o metadado nomeado generator se refere plataforma que no dia 11 de julho de 2017.
gera o contedo do tute, o que muito til para a deteco de robs.
Coletadas as bases de dados referentes aos seis casos, verificamos que 1925
Decidimos ento verificar todos os generators utilizados em nossas bases de generators diferentes geraram os 7,8 milhes de tutes publicados em todos
dados e qual a quantidade de tutes gerada por cada um deles. A partir desses eles. Deste total, 181 produziram pelo menos 100 tutes cada, e foram estes
resultados, verificamos em recortes detalhados do que se tratava cada um que analisamos manualmente. Essa avaliao permitiu identificarmos 83
deles e encontramos plataformas de automatizao de produo de contedo generators que produzem tutes automaticamente de maneira programada ou
listadas entre os generators. utilizando a plataforma Twitter atravs de automao.
PONTOS VERDES:
azul), porm, essa parcela de interaes com contas
CONTAS QUE GERARAM
PELO MENOS DUAS VEZES
automatizadas (robs sendo retuitados por outros
DOIS TUTES CONSECUTIVOS
robs ou contas comuns) chegou a 19,41%. Nas
EM MENOS DE UM SEGUNDO.
discusses entre perfis em apoio a Dilma, foram 9,76%.
fonte: FGV/DAPP
ZONA VERMELHA:
APOIADORES
DE DILMA ROUSSEFF
PONTOS BRANCOS:
POSSUEM AMBAS ZONA ROXA:
CARACTERSTICAS APOIADORES
(ROSA E VERDE) DE LUCIANA GENRO
fonte: FGV/DAPP
fonte: FGV/DAPP
ZONA VERMELHA:
APOIADORES
DE FERNANDO HADDDAD
fonte: FGV/DAPP
Foi a partir deste cenrio que centrais sindicais e partidos ZONA AZUL:
CONTRA
contrrios s reformas convocaram uma greve geral o GREVE GERAL
dia 28 de abril de 2017, contando que uma alta adeso
convenceria o espectro poltico da insatisfao popular
com relao a estas pautas. Como possvel observar
no grafo ao lado, os robs tiveram mais uma vez grande
presena. Entre os apoiadores da greve, 22,39% das
interaes foram motivadas por tutes automatizados.
fonte: FGV/DAPP
Os robs esto mais uma vez presentes nos dois extremos ZONA VERMELHA:
CONTRA
do debate, estando nessa anlise em maior nmero A REFORMA
no polo contrrio reforma. No total, identificamos
2% das interaes relacionadas a este evento como
automatizadas - 3% das interaes contrrias reforma
e 1% das favorveis.
fonte: FGV/DAPP
P
ara validao da anlise, verificamos manualmente uma amostra de ZONA VERMELHA
2153 contas suspeitas nos seis casos escolhidos. Esse procedimento PR GREVE GERAL
Como exemplo deste ltimo caso, temos contas que participaram de programas de fonte: FGV/DAPP
apoio a uma determinada causa e autorizaram que, em determinados momentos, interaes realizadas em tutes produzidos automaticamente.
tutes automticos fossem publicados por seus perfis na plataforma. Outro exemplo
so contas que tm produo original de contedo mas criam gatilhos, como a Os ncleos de discusso pr e contra a greve participaram de interaes
publicao de notcias envolvendo certa figura pblica ou instituio e as postam com tutes produzidos automaticamente. O grupo cinza constitudo por
de maneira automtica. contedos automatizados que usam assuntos que esto no debate do
momento para conseguir novos seguidores, sem aparente tentativa de
Conclumos, portanto, que a verificao de contas pode ser contraditria e, para este influenciar o debatedo momento para conseguir novos seguidores, sem
momento, consideramos que cada tweet deve ser avaliado quanto a sua origem (se aparente tentativa de influenciar o debate.
automatizada ou no).
Lee, K.; Eoff, B.; Caverlee, J. Seven Months with the devils: a long-
Many Americans Believe Fake News Is Sowing Confusion. term study of content polluters on twitter. In: Fifth International
Disponvel em: Conference on Weblogs and Social Media of the Association for the
http://www.journalism.org/2016/12/15/many-americans- Advancement of Artificial Intelligence, 2011.
believe-fake-news-is-sowing-confusion/
Ferrara, E.; Varol, O.; Davis, C.; Menczer, F.; Flammini, A. The rise of
Bessi, A.; Ferrara, E. Social bots distort the 2016 US social bots. In: Communications of the ACM, v.59, n.2, 2016.
Presidential election online discussion. Disponvel em: http://
firstmonday.org/ojs/index.php/fm/article/view/7090/5653 Davis, C.; Varol, O.; Ferrara, E.; Flammini, A.; Menczer, F. BotOrNot:
a system to evaluate social bots. 2016.
Pew Research Center. News use across social media
platforms 2016. Disponvel em: http://www.journalism. Tavares, G.; Faisal, A. Scaling-laws of human broadcast
org/2016/05/26/news-use-across-social-media- communication enable distinction between human, corporate and
platforms-2016/ Acesso em 02 de agosto de 2017. robot twitter users. PLoS ONE v.8, n.7, 2013.
Secreataria Especial de Comunicao Social da Presidncia Varol, O.; Ferrara, E.; Davis, C.; Menczer, F.; Flammini, A.
da Repblica (Secom/PR). Pesquisa Brasileira de Mdia Online Human-bot interactions: detection, estimation, and
2016 - Hbitos de consumo de mdia pela populao characterization. In: Eleventh International Conference on Weblogs
brasileira. Disponvel em: http://www.secom.gov.br/atuacao/ and Social Media of the Association for the Advancement of
pesquisa/lista-de-pesquisas-quantitativas-e-qualitativas- Artificial Intelligence, 2017.
de-contratos-atuais/pesquisa-brasileira-de-midia-
pbm-2016-1.pdf/view. Acessado em 16 de agosto de 2017. Arnaudo, D. Computational propaganda in Brazil: social bots during
elections. University of Oxford Working Paper, n.8, 2017.
Wang, A. Detecting Spam Bots in Online Social Networking
Sites: a machine learning approach. In: Foresti, S.; Jajodia, S. Chavoshi, N.; Hamooni, H.; and Mueen, A. Identifying correlated
Data and applications security and privacy XXIV. Springer, pp. bots in twitter. In Social Informatics: 8th Intl. Conf., 1421, 2016.
335-342, 2010. Chu, Z.; Gianvecchio, S.; Wang, H.; and Jajodia, S. Detecting
Clark, E.; Williams, J.; Jones, C.; Galbraith, R.; Danforth, C.; and Wired. How Twitter bots played a role in electing Donald Trump.
Dodds, P. Sifting robotic from organic text: a natural language Disponvel em: http://www.wired.co.uk/article/twitter-bots-
approach for detecting automation on twitter. Journal of democracy-usa-election Acesso em 11 de agosto de 2017.
Computational Science 16:17, 2016.
The New York Times. On Twitter, a Battle Among political Bots.
Ratkiewicz, J.; Conover, M.; Meiss, M.; Goncalves, B.; Disponvel em: https://www.nytimes.com/2016/12/14/arts/
Flammini, A.; and Menczer, F. Detecting and tracking political on-twitter-a-battle-among-political-bots.html Acesso em 11 de
abuse in social media. In 5th Int Conf on Weblogs & Soc Med, agosto de 2017
297304, 2011.
Deutsche welle. The rise of political bots on social media.
Wald, R.; Khoshgoftaar, T. M.; Napolitano, A.; and Sumner, Disponvel em:http://www.dw.com/en/the-rise-of-political-bots-
C. Predicting susceptibility to social bots on twitter. In Proc. on-social-media/a-19450562 Acesso em 12 de agosto de 2017.
14th Intl. IEEE Conf. on Information Reuse and Integration,
613, 2013. NY Daily Newas. The billionaire GOP patron behind Trump's social
media bot army. Disponvel em: http://www.nydailynews.com/
Matsubara, Y., Sakurai, Y., Ueda, N., Yoshikawa, M.: Fast and news/politics/billionaire-gop-patron-behind-trump-social-media-
exact monitoring of co-evolving data streams. In: 2014 IEEE bot-army-article-1.3236933 Acesso em 12 de agosto de 2017.
International Conference on Data Mining, pp. 390399. IEEE,
2014 MIT Technology Review. How the Bot-y Politic Influenced
This Election. Disponvel em: https://www.technologyreview.
Ghosh, S., Viswanath, B., Kooti, F., Sharma, N.K., Korlam, G., com/s/602817/how-the-bot-y-politic-influenced-
Benevenuto, F., Ganguly, N., Gummadi, K.P.: Understanding this-election/. Acesso em 12 de agosto de 2017.
and combating link farming in the twitter social network. In:
Proceedings of the 21st International Conference on World Le Monde Diplomatique. Entre trolls, robs e ativadores: as
Wide Web - WWW 2012, p. 61. ACM Press, New York, 2012 eleies na internet. Disponvel em: http://diplomatique.org.br/
entre-trolls-robos-e-ativadores-as-eleicoes-na-internet/. Acesso
Tavares, G.; Faisal, A. Scaling-laws of human broadcast em 12 de agosto de 2017.
communication enable distinction between human, corporate
Escritrio
Praia de Botafogo 190, Rio de Janeiro
RJ - CEP 222509000
Caixa Postal 62.591 CEP 22257-970
Tel (21) 3799-5498 | www.fgv.br
Presidente Fundador
Luiz Simes Lopes
Presidente
Carlos Ivan Simonsen Leal
Vice-Presidentes
Sergio Franklin Quintella,
Francisco Oswaldo Neves Dornelles e
Marcos Cintra Cavalcante de Albuquerque
EXPEDIENTE
EQUIPE DE EXECUO
Diretor
Marco Aurlio Ruediger
Pesquisadores
Amaro Grassi
Ana Freitas
Andressa Contarato
Carolina Taboada
Danilo Carvalho
Humberto Ferreira
Lucas Roberto da Silva Projeto grfico
Pedro Lenhard Arielle Asensi
Rachel Bastos Luis Gomes
Thomas Traumann Rebeca Liberatori Braga