RSEM
RSEM
RSEM
2
Ficha técnica
Ano: 2023
ISBN: 978-989-53931-3-8
Suporte: Eletrónico
Formato: PDF
3
4
Índice
Referências .................................................................................81
5
6
Capítulo introdutório
7
Uma revisão sistemática de literatura (RSL) usa procedimentos
metodológicos para sintetizar um conjunto de evidências
publicadas, permitindo conhecer os resultados divergentes e
convergentes dos estudos primários de uma área de pesquisa. As
revisões sistemáticas, ao contrário das tradicionais, minimizam o
risco de seleção de estudos inadequados e garantem a fiabilidade
dos estudos na revisão.
8
fiabilidade uma relação de causa e efeito entre variáveis; (3)
integrar informações que permitam guiar a prática baseada em
evidência; e (4) identificar as lacunas na literatura primária,
servindo como ponto de partida para novos estudos.
9
10
Revisão sistemática de estudos mistos:
visão geral
11
Nas últimas décadas, reconheceu-se a necessidade de sínteses de
evidências científicas para apoiar decisões em diferentes áreas da
saúde, incluindo as ciências do desporto. Como resultado, diversos
métodos e técnicas foram criados para, de forma sistemática,
agregar as evidências científicas. Na literatura, é possível
encontrar vários termos (como revisão sistemática, revisão
integrativa, revisão narrativa ou meta-análise) que descrevem
variações de diferentes métodos usados para sintetizar evidências
empíricas.
12
podem ser insuficientes para abordar questões complexas de
pesquisa. Esta insuficiência relaciona-se com a capacidade de
antecipar o que deve ser medido, uma vez que há fenómenos
complexos do comportamento humano que não podem ser
totalmente antecipados (Noyes et al., 2019). As evidências
quantitativas mostram o valor das associações entre as variáveis
independentes e dependentes, enquanto as qualitativas permitem
entender os mecanismos por trás dessas associações. Na verdade,
os estudos qualitativos permitem investigar como as pessoas
experimentam e conceptualizam o mundo ao seu redor. Isto
permite, por exemplo, compreender o porquê do sucesso ou do
fracasso das intervenções (Lewin & Glenton, 2018).
13
quantitativos/numéricos); (2) os métodos de síntese utilizados na
revisão (por exemplo, métodos qualitativos, métodos
quantitativos ou métodos mistos); e (3) quanto à forma de análise:
construção de modelos teóricos a partir das evidências recolhidas
e verificação das teorias existentes com base nos resultados dos
estudos primários.
14
Um domínio de investigação pode ter vários estudos primários
com abordagens metodológicas diferentes (como estudos
experimentais, quase-experimentais, transversais, longitudinais,
de caso ou de investigação-ação). Assim, as revisões sistemáticas
de literatura mistas têm a vantagem de incluir uma elevada
quantidade e diversidade de dados numa única síntese, ao
contrário dos métodos de síntese de literatura, que apenas
incluem estudos de um determinado desenho de investigação.
Esse aspeto vai permitir que a compreensão de um determinado
objeto de estudo seja interpretada com uma perspetiva mais
global, resultando em respostas mais completas e refinadas,
através da complementaridade dos dados qualitativos e
quantitativos. Isto pode potenciar a compreensão do
comportamento humano sob diferentes perspetivas. Deste modo,
diversas questões de investigação complementares sobre um
objeto de estudo podem ser respondidas através de uma única
síntese.
15
entendimento mais robusto de um fenómeno complexo, o que
não é possível através de um estudo qualitativo ou quantitativo
apenas. Além disso, as sínteses de evidências qualitativas e
quantitativas podem ajudar a compreender as lacunas de uma
teoria ou de uma intervenção prática específica. Não obstante, a
conjugação de estudos que se originam de métodos qualitativos e
quantitativos, com posições tradicionalmente divergentes a
respeito da ontologia (realidade única versus realidade múltipla),
da epistemologia (objetivismo versus subjetivismo) e da axiologia
(valor vinculado versus valor livre), configura um desafio a que os
investigadores devem responder (Bryman, 2007).
16
Orientações gerais para a conceção de projetos de
revisão sistemática de estudos mistos
17
18
Procedimentos prévios à realização de
projetos de revisão sistemática de estudos
mistos
19
Avaliar a necessidade do desenvolvimento de uma RSL
20
investigação de interesse. Na prática, este é um processo
interativo, com diversas pesquisas de literatura. A descoberta
gradual de evidências qualitativas e quantitativas promove, assim,
uma compreensão generalizada do campo de investigação para o
qual a revisão irá contribuir. Estas verificações são fundamentais,
pois os autores devem estar cientes da possibilidade de
formularem uma questão sem resposta nas evidências existentes,
o que resultaria numa revisão “vazia” (sem dados de investigação
relevantes).
21
disponíveis. Contudo, é importante não formular uma questão que
resultará na obtenção de uma quantidade incontrolável de
informação. A determinação do escopo inicial ajudará os autores
a estabelecerem os limites sensatos de investigação para a
execução da revisão (Thomas et al., 2022).
22
definição das características do grupo de controlo também deve
ser considerada, na medida em que pode ser importante para
entender os critérios de seleção dos estudos a incluir na revisão
sistemática. Relativamente às variáveis avaliadas, estas devem ser
claramente especificadas, porque são necessárias para interpretar
a validade e a generalização dos resultados da revisão sistemática.
No desenho dos estudos, pode considerar-se a inclusão de estudos
de diferentes abordagens metodológicas, especificando-se os
desenhos dentro destas abordagens (por exemplo, apenas
estudos que utilizaram grupos focais como recolha de dados ou
apenas estudos longitudinais). Desta forma, as abordagens PICOS
ou SPIDER podem estar presentes nas diferentes etapas de
planeamento e elaboração da revisão sistemática (título, critérios
de elegibilidade, pesquisa dos estudos, seleção dos estudos,
extração dos dados e relato das características dos estudos).
23
podem emergir outros aspetos importantes no momento da
definição de uma questão de pesquisa. Por exemplo, pode
considerar-se quais são os valores e as crenças dos indivíduos em
relação aos resultados de saúde, a aceitabilidade sociocultural de
uma intervenção, a equidade, a igualdade e as perspetivas sociais
envolventes. A conclusão a que se chega com esta análise é que os
autores de uma revisão podem, portanto, necessitar de formular
questões de pesquisa a partir de um paradigma de complexidade
que ultrapassa os elementos presentes nos PICOS ou na SPIDER.
Assim, os autores podem querer priorizar questões de variação
contextual, que podem ser abordadas, de uma forma robusta,
através de um trabalho de revisão de literatura que inclui estudos
de múltiplos contextos. A título de exemplo, pode considerar-se
questões como (Wong, 2013): (1) Como e quais os motivos que
levam a que a implementação da intervenção varie entre os
contextos?; (2) Até que ponto é que os participantes valorizam
diferentes resultados de saúde?; (3) Quais são as barreiras e os
facilitadores para a implementação de uma intervenção? As
questões de pesquisa de uma RSL refletem aquelas que podem ser
respondidas por pesquisas primárias (Booth et al., 2019).
24
elemento “Ti” é referente a elementos temporais; e, finalmente, o
elemento “F” é composto pelos resultados dos estudos. Portanto,
o PerSPEcTiF permite que os autores considerem a variação
contextual relacionada ao tempo e/ou espaço. Sugere-se a
consulta de orientações no trabalho de Petticrew et al. (2019)
sobre como as equipas de investigação podem julgar a relevância
contextual.
25
que algumas questões de pesquisa podem ser demasiado amplas
para a realização de uma revisão sistemática que seja praticável.
Além disso, se já houver outras revisões relacionadas com o
mesmo tópico de investigação, poder-se-á duplicar a realização de
revisões de literatura.
26
emergentes, entre 2010 e 2021, dos estudos qualitativos acerca
do comportamento sedentário na população idosa? (Ramalho et
al., 2021a).
27
síntese qualitativos; e as sínteses dos resultados dos estudos
quantitativos devem ser realizadas através de métodos
quantitativos. Desta forma, estas sínteses de literatura
apresentam as análises dos estudos primários em duas dimensões:
estudos qualitativos e estudos quantitativos. Somente após cada
análise em separado será possível produzir um conjunto de
conclusões sobre um determinado objeto de estudo.
28
exemplo, pode ser realizada uma síntese com o objetivo de
responder a uma questão de investigação (questão 1). Os
resultados dessa síntese irão determinar a próxima síntese de
evidências, que permite responder a outra questão de
investigação (questão 2). Por sua vez, esta segunda síntese poderá
conduzir à recolha e análise de estudos para se desenvolver uma
terceira síntese (questão 3). Os ciclos das revisões sistemáticas
continuam até que seja possível apresentar uma síntese
abrangente de pesquisa que atenda aos objetivos dos
investigadores (Sandelowski et al., 2006). Os estudos contingentes
podem ser vistos como estudos segregados ou como estudos
integrados. Isto significa que a aplicação deste desenho de
investigação pode ser realizada através de uma separação dos
dados qualitativos e dos dados quantitativos. Posteriormente,
pode constituir-se uma síntese narrativa dos resultados dos
estudos selecionados para a revisão. Alternativamente, um estudo
contingente pode permitir o desenvolvimento de uma série de
questões de pesquisa complementares, potenciando o
conhecimento abrangente um dado escopo de investigação. Em
suma, a característica que melhor define os estudos contingentes
é a abordagem cíclica usada para responder a questões de
pesquisa, e não a dicotomia entre estudos qualitativos e estudos
quantitativos.
29
dados (por exemplo, os dados qualitativos são transformados em
quantitativos ou os dados quantitativos são transformados em
categorias/temas); (2) síntese convergente baseada nos
resultados – as evidências qualitativas e quantitativas são
analisadas e apresentadas separadamente e, posteriormente, são
integradas utilizando um outro método de síntese. A integração
consiste em comparar ou justapor os resultados das evidências
qualitativas e quantitativas; (3) síntese convergente de resultados
paralelos – os dados qualitativos e quantitativos são analisados e
apresentados separadamente e a integração ocorre na
interpretação dos resultados, na secção de discussão.
30
Desenvolver um protocolo de revisão sistemática
31
estudos disponíveis, o que reduz o impacto dos vieses dos autores
da revisão. Além disso, o protocolo promove a transparência dos
métodos e dos processos, reduzindo a potencial duplicação de
estudos de revisão. Esta é, ainda, uma boa oportunidade para a
equipa de investigação planear os recursos e a logística para a
realização do estudo de revisão (Chandler & Hopewell, 2013).
32
estudos selecionados de uma RSL ou a modificação de uma análise
estatística) devem ser evitadas (Lasserson et al., 2022).
33
formulário também pode ser utilizado pelos investigadores como
um modelo-base para o desenvolvimento de um protocolo de RSL.
34
ROBIS (Risk of Bias in Systematic Reviews) constitui outra
ferramenta para avaliar o risco de viés de revisões sistemáticas de
literatura (Whiting et al., 2016). Num outro domínio, destacamos
as orientações da ENTREQ (The Enhancing Transparency in
Reporting the Synthesis of Qualitative Research), cujo objetivo é
aumentar a transparência das sínteses de evidências qualitativas
(Tong, Flemming, McInnes, Oliver, & Craig, 2012). Portanto, no
contexto de eventuais debilidades metodológicas e do risco
elevado de viés, a duplicação de revisões pode ser apropriada.
Contudo, um novo estudo de revisão deve ser sempre planeado,
justificando-se claramente, no protocolo de revisão e no relatório
de investigação, os motivos que conduzem à realização de um
estudo de revisão já existente (Moher et al., 2014).
35
Reflexividade e composição da equipa de investigação
36
Assim, é possível alcançar um contexto no qual as crenças, os
valores, as perspetivas e os pressupostos dos investigadores são
relevados e contestados. Portanto, pode ser útil que os
investigadores relatem, previamente, as suas posições teóricas
sobre um determinado tema de investigação. Além disso, os
investigadores podem relatar as crenças e perspetivas pessoais
relacionadas com a questão de investigação a que se pretende
responder através de uma RSL. Estas observações poderão ser
realizadas tanto no protocolo como no relatório final de revisão.
37
trabalho de revisão de literatura (Gøtzsche & Ioannidis, 2012). Não
obstante, a perícia do tema de investigação e o domínio
metodológico estejam presentes, para garantir uma mescla de
competências e de objetividade face às decisões inerentes aos
trabalhos de revisão de literatura científica. Assim, a experiência
relacionada com um determinado tema de investigação pode
permitir uma melhor compreensão das relações entre as variáveis
em estudo e de outros fatores importantes na tomada de decisões
metodológicas (Chandler & Hopewell, 2013). Deste modo, a
expertise acerca do tema de investigação pode ser aplicada com
sensibilidade, garantindo que o trabalho de revisão produza
conclusões livres de preconceitos teóricos ou empíricos.
38
Desenvolvimento de projetos de revisão
sistemática de estudos mistos
39
Título do estudo de revisão
40
recomendar “títulos indicativos”, enquanto outros sugerem
“títulos declarativos”. Além disso, sugere-se a utilização de títulos
informativos que tornem as informações-chave facilmente
acessíveis aos leitores. O título pode ser construído com base na
abordagem PICOS, SPIDER ou PerSPEcTiF, uma vez que fornecem
informações importantes acerca do escopo da revisão.
41
Exemplos:
Resumo
42
inclusão de alguns critérios de elegibilidade; a identificação das
bases de dados científicos utilizadas; a avaliação do risco de viés
e/ou da qualidade metodológica dos estudos; os resultados dos
estudos (por exemplo, estimativas e intervalos de confiança ou
síntese qualitativa); as conclusões e as implicações dos principais
resultados; o número de registo de revisão sistemática (caso
exista). De forma complementar, sugere-se, ainda, a inclusão do
método de análise de dados utilizado. A classificação de força das
evidências também pode ser reportada. Além disso, recomenda-
se que palavras-chave descrevam com precisão a questão de
investigação a que se pretende responder (Page et al., 2021).
Assim, os resumos podem: facilitar a triagem por tipo de estudo
(Haynes, Mulrow, Huthm, Altman, & Gardner, 1990); facilitar uma
avaliação rápida da validade do estudo em análise (Hartley, 2000);
possibilitar uma leitura eficiente dos resultados de pesquisa
(Froom & Froom, 1993); esclarecer a que tipo de participantes e
em que contextos os resultados se podem aplicar (Beller et al.,
2013); e aumentar a precisão das pesquisas nas bases de dados
eletrónicas (Beller, Glasziou, Hopewell, & Altman, 2011). O resumo
de um estudo de RSL deve, ainda, sinalizar a sua metodologia
sistemática (Beller et al., 2013).
Exemplos:
43
Web of Science, ScienceDirect, Scielo, and Scopus). The
included studies were required to have different
qualitative methodological approaches in terms of data
collection and methods of data analysis. Studies
conducted in any country and published in a peer-
reviewed journal in English, Spanish, and Portuguese
were considered. A thematic analysis approach was used
for data extraction and synthesis, and confidence in the
results was assessed using the GRADE-CERQual
approach. This study may enable accurate guidelines to
be established for future primary qualitative research
related to sedentary behavior. Keywords: research
synopsis; qualitative study; sedentary lifestyle; ageing;
geriatric; research methodology (Ramalho et al., 2021a).
44
other studies, it has been demonstrated a tendency that
too much time in passive sedentary activities has been
associated with depressive symptomatology. However,
this review suggested that the evidence is not yet
consistent in the relationship between the sedentary
behaviours of the elderly and the indicators analysed,
and more research is needed. Keywords: sitting time,
psychosocial resources, aging (Ramalho et al., 2018).
Secção introdutória
45
parágrafos. Contudo, devido ao estilo de escrita dos autores e das
diferentes temática, pode existir uma ampla variação na definição
do número de parágrafos nas secções introdutórias dos estudos.
Portanto, a especificação sobre o que deve, ou não, ser incluído
numa seção introdutória ainda carece de discussão (Malik, 2014).
No entanto, é possível fornecer uma visão geral dos aspetos que
podem ser mencionados numa introdução de um estudo de RSL.
Assim, a secção introdutória pode ter uma configuração
estruturada em diferentes parágrafos, como se pretende mostrar
nas páginas seguintes.
Exemplo:
46
Exemplo:
47
Exemplo:
Exemplo:
48
Secção metodológica
Exemplo:
49
using a systematic literature review of studies on OCHI in
primary care. Mixed studies reviews and corresponding
types of synthesis are presented in Appendix 1 to justify
our use of a framework synthesis (compared to other
types of syntheses), and to help readers who are not
familiar with these methodologies and methods. This
review is reported in accordance with the PRISMA
statement for quantitative systematic literature reviews
(reviews of quantitative studies with meta-analysis of
quantitative evidence; Liberati et al., 2009), and the
ENTREQ statement for enhancing transparency in
reporting a qualitative review (literature review of
qualitative research studies with synthesis of qualitative
evidence; Tong, Flemming, McInnes, Oliver, & Craig,
2012). No specific standard for reporting mixed studies
reviews was found in a reference source on guidelines for
reporting research (www.equatornetwork.org) (Pluye et
al., 2019).
50
“intervenção”, podem não ser relevantes para a pesquisa
qualitativa. Contudo, esses termos podem tornar-se mais
relevantes no futuro, à medida que os ensaios experimentais
incorporam dados qualitativos (Lewin, Glenton, & Oxman, 2009).
Além da abordagem PICOS, é possível utilizar os critérios SPIDER
(Sample, Phenomenon of Interest, Design, Evaluation, Research
Type) (Cooke et al., 2012). Estes critérios foram desenvolvidos para
estudos de revisão de métodos qualitativos e mistos. Para a
definição de critérios de elegibilidade relacionados com variáveis
contextuais, poder-se-á utilizar a estrutura PerSPEcTiF (Booth et
al., 2019). Além dos critérios mencionados, é possível definir e
integrar outros critérios de elegibilidade relevantes, tais como o
período temporal das publicações (por exemplo, estudos
publicados entre janeiro de 1990 e fevereiro de 2012) e a língua
de redação dos estudos.
Exemplos:
51
sedentário diário dos idosos, com as seguintes
características (Chastin et al., 2017): intervenções que
visam a modificação comportamental através da
sensibilização, intervenções com foco na tecnologia,
intervenções com o objetivo da modificação de fatores
contextuais e intervenções com base na alteração da
política de trabalho em lares, residências e centros de dia
para idosos. As intervenções deviam ter uma duração
mínima de 3 meses. Além disso, os estudos precisavam
de apresentar a medição do comportamento sedentário
(medidas objetivas; medidas por autorrelato) através de
instrumentos que apresentem a validade, a fiabilidade e
a sensibilidade, devidamente comprovadas. Foram
considerados os estudos publicados em inglês (Ramalho
et al., 2021b).
52
which responses were analysed using descriptive
statistical methods). Mixed methods studies and studies
published in conference proceedings, scientific papers,
book chapters, and unpublished manuscripts were also
not included in the evidence synthesis. The synthesis also
included primary studies that focused on the perceptions
of (1) older men and women aged 65 years or older; (2)
older people living in their own homes and older people
living in nursing homes and residences; (3) older people
with multiple comorbidities and older people without
associated pathologies; (4) older people who do or do
not participate in exercise programmes guided by
exercise professionals, and older people who do or do
not regularly engage in unguided physical activity.
Studies that exclusively examined clinical populations
(e.g., older adults undergoing cardiac rehabilitation)
were not included in the synthesis. Studies conducted in
any country and published in English, Spanish, and
Portuguese in peer-reviewed journals between 2010 and
2021 were considered for the final synthesis (Ramalho et
al., 2021a).
53
A introdução de filtros de pesquisa nas bases de dados permite
selecionar, à priori, critérios básicos como a faixa etária, o género
ou o tipo de estudos. Isto evita a repetição das pesquisas com
alteração das palavras-chave e das condições de busca. Existe uma
grande variedade de bases de dados científicos, tais como:
Cochrane Central Register of Controlled Trials (CENTRAL); Embase
(Embase.com); MEDLINE (PubMed); World Health Organization
(WHO); International Clinical Trials Registry Platform (ICTRP)
Search Portal (apps.who.int/trialsearch); CINAHL EBSCO
(Cumulative Index to Nursing and Allied Health Literature);
ClinicalTrials.gov (ClinicalTrials.gov); PsycINFO (ProQuest); PEDro
(Physiotherapy Evidence Database; www.pedro.org.au); EPPI-
Centre Databases (eppi.ioe.ac.uk/cms/Default.aspx? tabid=185); e
AMED (Allied and Complementary Medicine Database).
54
Exemplos:
55
base (www.sedentarybehaviour.org). Contact with
experts in SB will also be considered to identify additional
unpublished studies. These contacts could be made
through the Sedentary Behaviour Research Network
(www.sedentarybehaviour.org), the International
Society for Physical Activity and Health (www.ispah.org)
and other international research networks (Ramalho et
al., 2021a).
AND
56
[tiab] 29. interviews [MeSH Terms] 30. in-depth
interviews [MeSH Terms] 31. structured interviews [tiab]
32. semi-structured interviews [tiab] 33. unstructured
interviews [tiab] 34. ((observation [tiab]) OR participant
observation [tiab]
AND
57
Processo de seleção de estudos
Exemplo:
58
function. The selection process of the studies was
performed in the following phases: in the initial phase,
two independent reviewers based on the titles
performed the research of the potentially relevant
studies. In case of doubt about the inclusion of the
studies, these were selected for the next evaluation
phase. In the second phase, the abstracts of the studies
selected in the initial phase were analysed by two
reviewers. In the event of disagreement over the
inclusion of studies in the next phase, these were
resolved through mediation by a third reviewer. In the
third and final phase, the studies selected in the previous
phases were reviewed in their entirety by three
independent reviewers, taking into account the specific
eligibility criteria. At this stage, disagreements among
reviewers on the inclusion of studies were resolved by
consensus (Ramalho et al., 2018).
59
imagens relevante; e as conclusões. Os dados extraídos podem ser
apresentados numa tabela intitulada “Características dos estudos
incluídos” (Ramalho et al., 2021a).
60
pela extração (especialistas na área de objeto de estudo, em
metodologias de estudos de revisão ou ambos); (4) a eventual
realização de um teste-piloto e as instruções de codificação para o
formulário de recolha de dados; e (5) e a forma de resolução das
discordâncias entre os autores.
Exemplo:
61
A avaliação crítica dos estudos pode ser definida como um
processo relacionado com o julgamento da qualidade dos estudos
incluídos numa RSL (Hong & Pluye, 2019). Desta forma, a avaliação
crítica dos trabalhos de revisão permite identificar os pontos fortes
e os pontos mais frágeis dos estudos, determinando o grau de
confiança que se pode inferir acerca dos resultados de cada estudo
primário incluído na revisão. Além disso, a avaliação crítica permite
que as recomendações e as conclusões da revisão sistemática
reflitam, adequadamente, a qualidade das evidências incluídas na
síntese final. Assim, torna-se possível a comparação de resultados
de estudos de qualidade metodológica inferior e superior (Booth,
Papaioannou, & Sutton, 2012).
62
É preciso considerar as duas principais dimensões na avaliação
crítica dos estudos: a avaliação do risco de viés e a qualidade do
relatório. A aplicação de critérios da avaliação crítica depende, em
grande medida, dos desenhos de investigação dos estudos
incluídos na revisão.
Qualidade do relatório
63
adequada da sua fiabilidade. Desta forma, ambas as medidas
podem ser complementares. Assim, numa primeira fase, pode
avaliar-se a qualidade dos relatórios, excluindo aqueles que estão
inadequadamente reportados. Posteriormente, é possível avaliar
o risco de enviesamento dos demais estudos (Carroll, Booth, &
Lloyd-Jones, 2012).
64
forma, o princípio subjacente é o seguinte: quanto menos
enviesamentos houver nos procedimentos metodológicos
utilizados, mais fiáveis são os resultados dos estudos. Assim, a
avaliação do risco de enviesamento dos estudos deve fazer parte
das revisões sistemáticas. Sugere-se que os autores planeiem com
rigor os riscos de vieses que podem influenciar os resultados da
RSL.
65
da qualidade de estudos randomizados e não randomizados; (3)
aplicação de critérios de avaliação específicos para estudos de
métodos mistos. As revisões sistemáticas de evidências mistas
mais recentes têm utilizado a Mixed Methods Appraisal Tool (Hong
et al., 2018). Esta ferramenta permite avaliar o risco de viés de
cinco domínios diferentes (por exemplo, participantes, recolha e
análise de dados) para estudos de pesquisa qualitativa, ensaios
clínicos randomizados, estudos não randomizados, estudos
descritivos quantitativos e estudos de métodos mistos.
Exemplo:
66
quando os dados extraídos são analisados através de
procedimentos metodológicos específicos).
67
Harden, 2008), a síntese meta-narrativa (Greenhalgh et al., 2005)
e a síntese interpretativa crítica (Dixon-Woods et al., 2006).
68
Emden, 1997). Dessa forma, pode argumentar-se que a integração
de diversos estudos individuais ignora alguns fundamentos
teóricos e metodológicos de pesquisa qualitativa, reduzindo a
riqueza contextual dos estudos individuais. Embora valha a pena
conhecer essas preocupações, elas precisam de ser equilibradas
com os possíveis benefícios da construção de uma base de
conhecimento acumulada, utilizando a síntese interpretativa.
Nesse sentido, a crítica comum de que os estudos qualitativos
apresentam amostras relativamente pequenas e homogéneas,
reduzindo a sua generalização, pode ser ultrapassada através de
uma de síntese de literatura de evidências mistas. Logo, é possível
identificar os pontos em comum entre diferentes estudos,
potenciando um nível mais elevado de generalização,
comparativamente aos estudos primários (Estabrooks et al.,
1994).
Exemplo:
69
In this way, the themes are developed to ensure their
uniqueness and completeness. Finally, in the sixth stage,
the themes are written down in an analytical report. In
the first phase, two co-authors will independently
develop and present a thematic analysis according to the
procedures described above. Regular meetings will then
be held between all authors of the study to discuss and
interpret themes emerging from the data. At this stage,
disagreements between co-authors are resolved by
consensus. This form of discussion can ensure that the
themes reflect the full range of data reviewed [31]. Thus,
this approach allows for a scientific synthesis of the
findings of a qualitative design and a new understanding
of the scientific production of qualitative data related to
the study of SB in the elderly population (Ramalho et al.,
2021a).
70
2018). Neste sentido, antes da transformação de dados
qualitativos em quantitativos, deve ponderar-se se duas sínteses
independentes, com um comentário narrativo geral, podem
representar, fidedignamente, os resultados originais dos estudos.
Todavia, como observado, as RSL precisam de integrar evidências
de diferentes aproximações metodológicas qualitativas e
quantitativas. Portanto, a descrição de resultados em sínteses
paralelas pode ser uma abordagem inadequada na utilização de
ambas as fontes.
71
Exemplo:
72
Avaliação da força de evidência do conjunto de estudos incluídos
na síntese
73
sugerida a leitura dos trabalhos de Guyatt et al. (2008a), Guyatt et
al. (2008b), Guyatt et al. (2011a) e Guyatt et al. (2011b).
Exemplo:
74
possível estabelecer uma avaliação do grau de confiança para cada
resultado que a revisão venha a produzir. Nesse sentido, os
resultados da síntese de evidências podem ser classificados da
seguinte forma: grau de confiança alto; grau de confiança
moderado; grau de confiança baixo; grau de confiança muito
baixo. Posteriormente, os resultados das avaliações CERQual
podem ser apresentados numa tabela intitulada “Sumário de
resultados qualitativos”. Esta tabela descreve o grau de confiança
para cada resultado e fundamenta as avaliações realizadas, com
base na abordagem GRADE-CERQual (Noyes et al., 2018).
75
76
Considerações finais
77
O objetivo geral deste livro foi apresentar um conjunto de
orientações metodológicas a considerar em projetos de revisões
sistemáticas de estudos mistos. As orientações aqui apresentadas
não devem ser entendidas como um instrumento de avaliação de
qualidade de trabalhos de RSL. Pelo contrário, espera-se que este
documento possa proporcionar um correto enquadramento
pedagógico para os autores interessados em produzir projetos de
estudos mistos, com rigor e transparência. Contudo, tal como no
princípio de outras orientações metodológicas reconhecidas
internacionalmente (Liberati et al., 2009), temos poucas
evidências para afirmar, com algum grau de certeza, que esse
objetivo será cumprido. No sentido de sumariarmos as orientações
metodológicas aqui explicadas, apresentamos, abaixo, uma lista
de verificação de itens a considerar na conceção de RSL.
78
Lista de verificação de itens a considerar
na conceção de projetos de revisão
sistemática de estudos mistos
79
Secção/fase Item
Avaliar a necessidade do desenvolvimento
realização de projetos de RSL
Procedimentos prévios à
de uma RSL
de estudos mistos
Formulação de uma questão de pesquisa
Selecionar o desenho de investigação
Desenvolver um protocolo de revisão
sistemática
Registar um protocolo de revisão sistemática
Reflexividade e composição da equipa de
investigação
Resumo
Secção introdutória
Secção metodológica
(1) Apresentação da congruência
metodológica do estudo de revisão
(2) Definição de critérios de elegibilidade
(3) Elaboração de uma estratégia de
pesquisa de literatura
(4) Processo de seleção de estudos
(5) Procedimentos de extração de dados
(6) Avaliação do risco de enviesamento
dos estudos incluídos na síntese
(7) Método de síntese de dados
(8) Avaliação da força de evidência do
conjunto de estudos incluídos na
síntese
80
Referências
81
Alexandrov, A. V. (2004). How to write a research paper.
Cerebrovascular diseases (Basel, Switzerland), 18(2), 135–138.
https://doi.org/10.1159/000079266
Atkins, D., Fink, K., Slutsky, J., Agency for Healthcare Research and
Quality, & North American Evidence-based Practice Centers
(2005). Better information for better health care: the Evidence-
based Practice Center program and the Agency for Healthcare
Research and Quality. Annals of internal medicine, 142(12 Pt 2),
1035–1041. https://doi.org/10.7326/0003-4819-142-12_part_2-
200506211-00002
Backman, C., Crick, M., Cho-Young, D., Scharf, M., & Shea, B.
(2018). What is the impact of sensory practices on the quality of
life of long-term care residents? A mixed-methods systematic
review protocol. Systematic Reviews, 7(1), 5– 10.
https://doi.org/10.1186/s13643-018-0783-9
82
medicine, 10(4), e1001419.
https://doi.org/10.1371/journal.pmed.1001419
Booth, A., Clarke, M., Ghersi, D., Moher, D., Petticrew, M., &
Stewart, L. (2011a). An international registry of systematic-review
protocols. Lancet (London, England), 377(9760), 108–109.
https://doi.org/10.1016/S0140-6736(10)60903-8
Booth, A., Clarke, M., Ghersi, D., Moher, D., Petticrew, M., &
Stewart, L. (2011). Establishing a minimum dataset for prospective
registration of systematic reviews: an international consultation.
PloS one, 6(11), e27319.
https://doi.org/10.1371/journal.pone.0027319
Booth, A., Noyes, J., Flemming, K., Moore, G., Tunçalp, Ö., &
Shakibazadeh, E. (2019). Formulating questions to explore
complex interventions within qualitative evidence synthesis. BMJ
global health, 4(Suppl 1), e001107.
https://doi.org/10.1136/bmjgh-2018-001107
83
Bryman, A. (2007). Barriers to integrating quantitative and
qualitative research. Journal of Mixed Methods Research, 1, 8–22.
doi:10.1177/2345678906290531
Buscemi, N., Hartling, L., Vandermeer, B., Tjosvold, L., & Klassen, T.
P. (2006). Single data extraction generated more errors than
double data extraction in systematic reviews. Journal of clinical
epidemiology, 59(7), 697–703.
https://doi.org/10.1016/j.jclinepi.2005.11.010
Cooke, A., Smith, D., & Booth, A. (2012). Beyond PICO: the SPIDER
tool for qualitative evidence synthesis. Qualitative health
84
research, 22(10), 1435–1443.
https://doi.org/10.1177/1049732312452938
Dixon-Woods, M., Agarwal, S., Jones, D., Young, B., & Sutton, A.
(2005). Synthesising qualitative and quantitative evidence: a
review of possible methods. Journal of health services research &
policy, 10(1), 45–53.
https://doi.org/10.1177/135581960501000110
Dixon-Woods, M., Cavers, D., Agarwal, S., Annandale, E., Arthur, A.,
Harvey, J., Hsu, R., Katbamna, S., Olsen, R., Smith, L., Riley, R., &
85
Sutton, A. J. (2006). Conducting a critical interpretive synthesis of
the literature on access to healthcare by vulnerable groups. BMC
medical research methodology, 6, 35.
https://doi.org/10.1186/1471-2288-6-35
Edwards, P., Clarke, M., DiGuiseppi, C., Pratap, S., Roberts, I., &
Wentz, R. (2002). Identification of randomized controlled trials in
systematic reviews: accuracy and reliability of screening records.
Statistics in medicine, 21(11), 1635–1640.
https://doi.org/10.1002/sim.1190
Gardner, B., Whittington, C., McAteer, J., Eccles, M. P., & Michie,
S. (2010). Using theory to synthesise evidence from behaviour
change interventions: the example of audit and feedback. Social
science & medicine (1982), 70(10), 1618–1625.
https://doi.org/10.1016/j.socscimed.2010.01.039
86
Gayman, A., Fraser-Thomas, J., Dionigi, R., Horton, S., & Baker, J.
(2017). Is sport good for older adults? A systematic review of
psychosocial outcomes of older adults’ sport participation.
International Review of Sport and Exercise Psychology, 10, 164-
185. doi: 10.1080/1750984X.2016.1199046
Greenhalgh, T., Robert, G., Macfarlane, F., Bate, P., Kyriakidou, O.,
& Peacock, R. (2005). Storylines of research in diffusion of
innovation: a meta-narrative approach to systematic review. Social
science & medicine (1982), 61(2), 417–430.
https://doi.org/10.1016/j.socscimed.2004.12.001
Guyatt, G. H., Oxman, A. D., Kunz, R., Atkins, D., Brozek, J., Vist, G.,
Alderson, P.,
87
Guyatt, G. H., Oxman, A. D., Kunz, R., Vist, G. E., Falck-Ytter, Y.,
Schünemann, H. J., & GRADE Working Group (2008a). What is
"quality of evidence" and why is it important to clinicians?. BMJ
(Clinical research ed.), 336(7651), 995–998.
https://doi.org/10.1136/bmj.39490.551019.BE
Guyatt, G. H., Oxman, A. D., Vist, G. E., Kunz, R., Falck-Ytter, Y.,
Alonso-Coello, P., Schünemann, H. J., & GRADE Working Group
(2008b). GRADE: an emerging consensus on rating quality of
evidence and strength of recommendations. BMJ (Clinical research
ed.), 336(7650), 924–926.
https://doi.org/10.1136/bmj.39489.470347.AD
Guyatt, G., Oxman, A. D., Akl, E. A., Kunz, R., Vist, G., Brozek, J.,
Norris, S., Falck-Ytter, Y., Glasziou, P., DeBeer, H., Jaeschke, R.,
Rind, D., Meerpohl, J., Dahm, P., & Schünemann, H. J. (2011a).
GRADE guidelines: 1. Introduction-GRADE evidence profiles and
summary of findings tables. Journal of clinical epidemiology, 64(4),
383–394. https://doi.org/10.1016/j.jclinepi.2010.04.026
Haynes, R. B., Mulrow, C. D., Huth, E. J., Altman, D. G., & Gardner,
M. J. (1990). More informative abstracts revisited. Annals of
internal medicine, 113(1), 69–76. https://doi.org/10.7326/0003-
4819-113-1-69
88
Heyvaert, M., Maes, B., & Onghena, P. (2013). Mixed methods
research synthesis: definition, framework, and potential. Quality &
Quantity, 47, 659-676. https://doi.org/10.1007/s11135-011-9538-
6
Higgins, J. P., Altman, D. G., Gøtzsche, P. C., Jüni, P., Moher, D.,
Oxman, A. D., Savovic, J., Schulz, K. F., Weeks, L., Sterne, J. A.,
Cochrane Bias Methods Group, & Cochrane Statistical Methods
Group (2011). The Cochrane Collaboration's tool for assessing risk
of bias in randomised trials. BMJ (Clinical research ed.), 343, d5928.
https://doi.org/10.1136/bmj.d5928
Higgins, J.P., Altman, D.G., & Sterne, J.A. (2022). Assessing risk of
bias in included studies. In J. Higgins, J. Thomas, J. Chandler, M.
Cumpston, T. Li, M. Page, & V. Welch (Eds.), Cochrane Handbook
for Systematic Reviews of Interventions version 6.3 (updated
February 2022). Cochrane. Available
from www.training.cochrane.org/handbook.
Hong, Q. N., Pluye, P., Bujold, M., & Wassef, M. (2017). Convergent
and sequential synthesis designs: implications for conducting and
reporting systematic reviews of qualitative and quantitative
evidence. Systematic reviews, 6(1), 61.
https://doi.org/10.1186/s13643-017-0454-2
Hong, Q. N., Pluye, P., Fabregues, S., Bartlett, G., Boardman, F.,
Cargo, M., Dagenais, P., Gagnon, M.-P., Griffiths, F., Nicolau, B.,
89
O’Cathain, A., Rousseau, M.-C., & Vedel, I. (2018). Mixed methods
appraisal tool (MMAT), version 2018.
http://mixedmethodsappraisaltoolpublic.pbworks.com/w/file/fet
ch/127916259/MMAT_2018_criteria-manual_2018-08-
01_ENG.pdf
Johnstone, A., McCrorie, P., Cordovil, R., Fjørtoft, I., Iivonen, S.,
Jidovtseff, B., Lopes, F., Reilly, J. J., Thomson, H., Wells, V., &
Martin, A. (2022). Nature-Based Early Childhood Education and
Children's Physical Activity, Sedentary Behavior, Motor
Competence, and Other Physical Health Outcomes: A Mixed-
Methods Systematic Review. Journal of physical activity &
health, 19(6), 456–472. https://doi.org/10.1123/jpah.2021-0760
Lewin, S., & Glenton, C. (2018). Are we entering a new era for
qualitative research? Using qualitative evidence to support
guidance and guideline development by the World Health
90
Organization. International journal for equity in health, 17(1), 126.
https://doi.org/10.1186/s12939-018-0841-x
Lewin, S., Glenton, C., Munthe-Kaas, H., Carlsen, B., Colvin, C. J.,
Gülmezoglu, M., Noyes, J., Booth, A., Garside, R., & Rashidian, A.
(2015). Using qualitative evidence in decision making for health
and social interventions: an approach to assess confidence in
findings from qualitative evidence syntheses (GRADE-CERQual).
PLoS medicine, 12(10), e1001895.
https://doi.org/10.1371/journal.pmed.1001895
Li, T., Higgins, J.P.T., & Deeks, J.J. (2022). Chapter 5: Collecting data.
In J. Higgins, J. Thomas, J. Chandler, M. Cumpston, T. Li, M. Page,
& V. Welch (Eds.), Cochrane Handbook for Systematic Reviews of
Interventions version 6.3 (updated February 2022). Cochrane.
Available from www.training.cochrane.org/handbook.
Liberati, A., Altman, D. G., Tetzlaff, J., Mulrow, C., Gøtzsche, P. C.,
Ioannidis, J. P., Clarke, M., Devereaux, P. J., Kleijnen, J., & Moher,
D. (2009). The PRISMA statement for reporting systematic reviews
and meta-analyses of studies that evaluate health care
interventions: explanation and elaboration. PLoS medicine, 6(7),
e1000100. https://doi.org/10.1371/journal.pmed.1000100
91
Ma, B., Guo, J., Qi, G., Li, H., Peng, J., Zhang, Y., Ding, Y., & Yang, K.
(2011). Epidemiology, quality and reporting characteristics of
systematic reviews of traditional Chinese medicine interventions
published in Chinese journals. PloS one, 6(5), e20185.
https://doi.org/10.1371/journal.pone.0020185
Moffatt, S., White, M., Mackintosh, J., & Howel, D. (2006). Using
quantitative and qualitative data in health services research - what
happens when mixed method findings conflict?
[ISRCTN61522618]. BMC health services research, 6, 28.
https://doi.org/10.1186/1472-6963-6-28
Moher, D., Hopewell, S., Schulz, K. F., Montori, V., Gøtzsche, P. C.,
Devereaux, P. J., Elbourne, D., Egger, M., Altman, D. G., &
Consolidated Standards of Reporting Trials Group (2010).
CONSORT 2010 Explanation and Elaboration: Updated guidelines
for reporting parallel group randomised trials. Journal of clinical
epidemiology, 63(8), e1–e37.
https://doi.org/10.1016/j.jclinepi.2010.03.004
Moher, D., Shamseer, L., Clarke, M., Ghersi, D., Liberati, A.,
Petticrew, M., Shekelle, P., Stewart, L. A., & PRISMA-P Group
(2015). Preferred reporting items for systematic review and meta-
analysis protocols (PRISMA-P) 2015 statement. Systematic
reviews, 4(1), 1. https://doi.org/10.1186/2046-4053-4-1
92
Mulrow C. D. (1994). Rationale for systematic reviews. BMJ
(Clinical research ed.), 309(6954), 597–599.
https://doi.org/10.1136/bmj.309.6954.597
Munder, T., Brütsch, O., Leonhart, R., Gerger, H., & Barth, J. (2013).
Researcher allegiance in psychotherapy outcome research: an
overview of reviews. Clinical psychology review, 33(4), 501–511.
https://doi.org/10.1016/j.cpr.2013.02.002
Mustafa, R. A., Santesso, N., Brozek, J., Akl, E. A., Walter, S. D.,
Norman, G., Kulasegaram, M., Christensen, R., Guyatt, G. H., Falck-
Ytter, Y., Chang, S., Murad, M. H., Vist, G. E., Lasserson, T.,
Gartlehner, G., Shukla, V., Sun, X., Whittington, C., Post, P. N., Lang,
E., … Schünemann, H. J. (2013). The GRADE approach is
reproducible in assessing the quality of evidence of quantitative
evidence syntheses. Journal of clinical epidemiology, 66(7), 736–
742.e7425. https://doi.org/10.1016/j.jclinepi.2013.02.004
Noyes, J., Booth, A., Lewin, S., Carlsen, B., Glenton, C., Colvin, C. J.,
Garside, R., Bohren, M. A., Rashidian, A., Wainwright, M., Tunςalp,
Ö., Chandler, J., Flottorp, S., Pantoja, T., Tucker, J. D., & Munthe-
Kaas, H. (2018). Applying GRADE-CERQual to qualitative evidence
synthesis findings-paper 6: how to assess relevance of the data.
Implementation science : IS, 13(Suppl 1), 4.
https://doi.org/10.1186/s13012-017-0693-6
Noyes, J., Booth, A., Moore, G., Flemming, K., Tunçalp, Ö., &
Shakibazadeh, E. (2019). Synthesising quantitative and qualitative
evidence to inform guidelines on complex interventions: clarifying
the purposes, designs and outlining some methods. BMJ global
health, 4(Suppl 1), e000893. https://doi.org/10.1136/bmjgh-
2018-000893
93
Olofsson, H., Brolund, A., Hellberg, C., Silverstein, R., Stenström, K.,
Österberg, M., & Dagerhamn, J. (2017). Can abstract screening
workload be reduced using text mining? User experiences of the
tool Rayyan. Research synthesis methods, 8(3), 275–280.
https://doi.org/10.1002/jrsm.1237
Owen, N., Sugiyama, T., Eakin, E., Gardiner, P., Tremblay, M., &
Sallis, J. (2011). Adults‘ sedentary behavior determinants and
interventions. American Journal of Preventive Medicine, 41, 189–
196. doi: 10.1016/j.amepre.2011.05.013
Page, M. J., Moher, D., Bossuyt, P. M., Boutron, I., Hoffmann, T. C.,
Mulrow, C. D., Shamseer, L., Tetzlaff, J. M., Akl, E. A., Brennan, S.
E., Chou, R., Glanville, J., Grimshaw, J. M., Hróbjartsson, A., Lalu,
M. M., Li, T., Loder, E. W., Mayo-Wilson, E., McDonald, S.,
McGuinness, L. A., … McKenzie, J. E. (2021). PRISMA 2020
explanation and elaboration: updated guidance and exemplars for
reporting systematic reviews. BMJ (Clinical research ed.), 372,
n160. https://doi.org/10.1136/bmj.n160
Petticrew, M., Knai, C., Thomas, J., Rehfuess, E. A., Noyes, J.,
Gerhardus, A., Grimshaw, J. M., Rutter, H., & McGill, E. (2019).
Implications of a complexity perspective for systematic reviews
and guideline development in health decision making. BMJ global
94
health, 4(Suppl 1), e000899. https://doi.org/10.1136/bmjgh-
2018-000899
Pluye, P., El Sherif, R., Granikov, V., Hong, Q. N., Vedel, I., Galvao,
M., Frati, F., Desroches, S., Repchinsky, C., Rihoux, B., Légaré, F.,
Burnand, B., Bujold, M., & Grad, R. (2019). Health outcomes of
online consumer health information: A systematic mixed studies
review with framework synthesis. Journal of the Association for
Information Science and Technology, 70(7), 643–659.
https://doi.org/10.1002/asi.24178
Pluye, P., Hong, Q. N., Bush, P. L., & Vedel, I. (2016). Opening-up
the definition of systematic literature review: the plurality of
worldviews, methodologies and methods for reviews and
syntheses. Journal of clinical epidemiology, 73, 2–5.
https://doi.org/10.1016/j.jclinepi.2015.08.033
Pope, C., Mays, N., & Popay, J. (2007). Synthesizing qualitative and
quantitative health evidence: a guide to methods. McGraw-Hill.
95
Ramalho, A., Rosado, A., & Petrica, J. (2022). Comportamento
sedentário e envelhecimento: síntese de evidências científicas.
Castelo Branco: IPCB. ISBN 978-989-53300-3-4.
Ramalho, A., Rosado, A., Serrano, J., Paulo, R., Duarte-Mendes, P.,
& Petrica, J. (2021b). Estratégias de intervenção para a redução do
comportamento sedentário diário nos idosos: Uma revisão rápida
de literatura. In J. Pinheiro (coord.), Olhares sobre o
envelhecimento. Estudos interdisciplinares, vol. I, pp. 37-50. doi:
10.34640/universidademadeira2021ramalhorosadoserrano. ISBN:
978-989-8805-63-8
Ramalho, A., Serrano, J., Paulo, R., Duarte-Mendes, P., Rosado, A.,
& Petrica, J. (2021a). Emerging Qualitative Research Trends (2010–
2021) on Sedentary Behaviour among Older Adults: A Systematic
Literature Review Protocol. International Journal of Environmental
Research and Public Health, 18, 11548.
https://doi.org/10.3390/ijerph182111548
Rose, L., Dale, C., Smith, O. M., Burry, L., Enright, G., Fergusson, D.,
Sinha, S.,
96
Sackett, D.L., Straus, S.E., Richardson, W.S., Rosenberg, W., &
Haynes, R.B. (2000). Evidence-Based Medicine: How to Practice
and Teach EBM. Churchill Livingstone.
Shea, B. J., Reeves, B. C., Wells, G., Thuku, M., Hamel, C., Moran,
J., Moher, D., Tugwell, P., Welch, V., Kristjansson, E., & Henry, D. A.
(2017). AMSTAR 2: a critical appraisal tool for systematic reviews
that include randomised or non-randomised studies of healthcare
interventions, or both. BMJ (Clinical research ed.), 358, j4008.
https://doi.org/10.1136/bmj.j4008
97
Ramsay, C. R., … Higgins, J. P. (2016). ROBINS-I: a tool for assessing
risk of bias in non-randomised studies of interventions. BMJ
(Clinical research ed.), 355, i4919.
https://doi.org/10.1136/bmj.i4919
Thomas, J., Kneale, D., McKenzie, J.E., Brennan, S.E., & Bhaumik, S.
(2022). Chapter 2: Determining the scope of the review and the
questions it will address. In J. Higgins, J. Thomas, J. Chandler, M.
Cumpston, T. Li, M. Page, & V. Welch (Eds.), Cochrane Handbook
for Systematic Reviews of Interventions version 6.3 (updated
February 2022). Cochrane. Available
from www.training.cochrane.org/handbook.
Thorne, S., Jensen, L., Kearney, M. H., Noblit, G., & Sandelowski, M.
(2004). Qualitative metasynthesis: reflections on methodological
orientation and ideological agenda. Qualitative health
research, 14(10), 1342–1365.
https://doi.org/10.1177/1049732304269888
Tong, A., Flemming, K., McInnes, E., Oliver, S., & Craig, J. (2012).
Enhancing transparency in reporting the synthesis of qualitative
research: ENTREQ. BMC medical research methodology, 12, 181.
https://doi.org/10.1186/1471-2288-12-181
98
Tong, A., Sainsbury, P., & Craig, J. (2007). Consolidated criteria for
reporting qualitative research (COREQ): a 32-item checklist for
interviews and focus groups. International journal for quality in
health care: journal of the International Society for Quality in
Health Care, 19(6), 349–357.
https://doi.org/10.1093/intqhc/mzm042
von Elm, E., Altman, D. G., Egger, M., Pocock, S. J., Gøtzsche, P. C.,
Vandenbroucke, J. P., & STROBE Initiative (2007). The
Strengthening the Reporting of Observational Studies in
Epidemiology (STROBE) statement: guidelines for reporting
observational studies. PLoS medicine, 4(10), e296.
https://doi.org/10.1371/journal.pmed.0040296
Whiting, P., Savović, J., Higgins, J. P., Caldwell, D. M., Reeves, B. C.,
Shea, B., Davies, P., Kleijnen, J., Churchill, R., & ROBIS group (2016).
ROBIS: A new tool to assess risk of bias in systematic reviews was
developed. Journal of clinical epidemiology, 69, 225–234.
https://doi.org/10.1016/j.jclinepi.2015.06.005
99
100
101