DISSERTAÇÃO Larissa Rodrigues Da Costa

UNIVERSIDADE FEDERAL DE PERNAMBUCO
CENTRO DE INFORMÁTICA
PROGRAMA DE PÓS-GRADUAÇÃO EM CIÊNCIA DA COMPUTAÇÃO
LARISSA RODRIGUES DA COSTA
NFR4TRUST: CATÁLOGO DE REQUISITOS NÃO-FUNCIONAIS DE CONFIANÇA PARA

ROBÔS SOCIALMENTE ASSISTIVOS
Recife
2022
LARISSA RODRIGUES DA COSTA
NFR4TRUST: CATÁLOGO DE REQUISITOS NÃO-FUNCIONAIS DE CONFIANÇA PARA

Trabalho apresentado ao Programa de Pós-

Graduação em Ciência da Computação do Centro
de Informática da Universidade Federal de Pernam-
buco como requisito parcial para obtenção do grau
de Mestre em Ciência da Computação.
Área de Concentração: Engenharia de Software e

Linguagens de programação
Orientador: Prof. Jaelson Freire Brelaz de Castro
Recife
2022
Catalogação na fonte
Bibliotecária Monick Raquel Silvestre da S. Portes, CRB4-1217
C837n Costa, Larissa Rodrigues da

NFR4TRUST: catálogo de requisitos não-funcionais de confiança para
robôs socialmente assistivos / Larissa Rodrigues da Costa. – 2022.
227 f.: il., fig., tab.
Orientador: Jaelson Freire Brelaz de Castro.

Dissertação (Mestrado) – Universidade Federal de Pernambuco. CIn,
Ciência da Computação, Recife, 2022.
Inclui referências e apêndices.
1. Engenharia de software. 2. Engenharia de requisitos. I. Castro, Jaelson

Freire Brelaz de (orientador). II. Título.
005.1 CDD (23. ed.) UFPE - CCEN 2022-151

Larissa Rodrigues da Costa
“NFR4TRUST: CATÁLOGO DE REQUISITOS NÃO-FUNCIONAIS DE

CONFIANÇA PARA ROBÔS SOCIALMENTE ASSISTIVOS”
Dissertação de Mestrado apresentada ao

Programa de Pós-Graduação em Ciência da
Computação da Universidade Federal de
Pernambuco, como requisito parcial para a
obtenção do título de Mestre em Ciência da
Computação. Área de Concentração:
Engenharia de Software e Linguagens de
Programação.
Aprovado em: 03/03/2022.
BANCA EXAMINADORA
---------------------------------------------------------
Profa. Dra.Judith Kelner
Centro de Informática/UFPE
---------------------------------------------------------
Prof. Dr.Julio Cesar Sampaio do Prado Leite
Centro Técnico-Científico/PUC-RJ
---------------------------------------------------------
Prof.Dr. Jaelson Freire Brelaz Castro
Centro de Informática/UFPE
(Orientador)
Não há exemplo maior de dedicação e inspiração do que o da nossa família. À minha querida
família, que tanto admiro e amo, dedico o resultado do esforço realizado ao longo desta
trajetória.
Ao seu Jose, o meu Teimoso Favorito... (in memorian 02/10/21).

AGRADECIMENTOS
Antes de tudo e todos, eu agradeço à Deus, por me permitir ultrapassar todos os obstáculos
encontrados. Foi por intermédio DELE que estou aqui hoje, todas as bençãos e oportunidades
que me foram dadas, todas as conquistas e caminhos trilhados foram obras suas.
Agradeço à minha Mãe Regileide, por ser minha maior parceira e porto seguro, obrigada
por acreditar em mim, mesmo quando eu não acreditei.
À minha Tia/Mãe Elizabeth, por sempre estar ao meu lado em minha caminhada, me
apoiando e incentivando. Ao seu Jose, minha figura de Pai/Avô, que foi um dos meus maiores
incentivadores acadêmico. Obrigada por me ensinar tantas coisas da vida.
À Diego, meu Primo/Irmão/MelhorAmigo que merece uma sessão exclusiva e ainda assim
faltaria espaço para descrever a importância dele. Obrigada por toda ajuda, compreensão,
incentivo e principalmente por acreditar em mim e me apoiar todos os dias.
Agradeço enormemente à minha família por serem os meus maiores fãs!! Não dá para
agradecer individualmente a cada um porque é muita gente, mas eu amo todos vocês, quem
eu sou hoje e as conquistas que consegui/conseguirei tem uma parcela de contribuição de cada
um.
Agradeço aos amigos feitos durante a pós-graduação: Davi, Elisa, Moniky, Mozart, Shei-
lane, Sthéfanie. Obrigada por todo apoio e ajuda. Vocês foram fundamentais nesta jornada,
vou guardar todos em um potinho para levar para a vida.
Agradeço à todos que de forma direta ou indireta estiveram presentes ao meu lado nessa
caminhada. Agradeço também ao apoio financeiro da Coordenação de Aperfeiçoamento de
Pessoal de Nível Superior - Brasil (CAPES).
E por fim, gostaria de agradecer ao meu orientador, Jaelson Castro. Obrigada por toda
paciência e dedicação durante essa trajetória, e também por me manter firme quando eu queria
desistir.
RESUMO
No campo de pesquisa da Robótica Socialmente Assistiva (Socially Assistive Robotics) o

estudo da Interação Humano-Robô (Human-Robot Interaction - HRI) tem o importante papel
de indagar a forma como o aspecto humano e robótico colaboram entre si e qual o espaço do
robô na vida humana. Alguns aspectos vêm sendo bastante estudados na literatura, dentre eles
a confiança, que é considerada crucial para uma interação bem sucedida entre Homem-Robô. A
Engenharia de Requisitos pode contribuir para compreender, modelar e analisar quais requisitos
são fundamentais, melhorando assim a aceitação da utilização desses robôs. Essa pesquisa
propôs a construção de um catálogo de Requisitos Não-Funcionais de confiança para Robôs
Socialmente Assistivos chamado NFR4TRUST. O catálogo poderá ser usado para auxiliar a
elicitação e especificação de requisitos não-funcionais relacionados a aspectos de confiança
humana no uso de robôs socialmente assistivos. Foi realizado um levantamento bibliográfico
visando verificar o estado da arte em HRI no contexto de confiança e a partir deste estudo, foi
construída uma proposta de taxonomia de confiança para Robôs Socialmente Assistivos que
auxilia na descoberta de requisitos. A validação do catálogo proposto foi realizada através de
uma Prova de Conceito, entrevista com especialistas das áreas relacionadas, bem como através
do uso de um questionário para obter a opinião de engenheiros de requisitos. O uso do catálogo
NFR4TRUST foi ilustrado através de sua aplicação na definição de requisitos de confiança de
um robô que auxilia na reabilitação de membros superiores. De acordo com os engenheiros
de requisitos consultados, o catálogo NFR4TRUST é um artefato útil, de fácil entendimento
e apresenta uma boa abrangência em relação aos requisitos não-funcionais de confiança no
domínio da Robótica Socialmente Assistiva. Os resultados deste trabalho apontaram que com
a utilização do catálogo NFR4TRUST é possível apoiar as etapas de elicitação e especificação
em projetos de Robôs Socialmente Assistivos permitindo identificar preocupações iniciais sobre
a perspectiva de confiança do usuário e projetar formas de mitigá-las.
Palavras-chaves: robôs socialmente assistivos; interação humano-robô; confiança; engenharia

de requisitos; requisitos não-funcionais; catálogos.
ABSTRACT
The research on Socially Assistive Robotics (SAR) includes studies in Human-Robot In-
teraction (HRI) in order to identify how the collaboration of human and robots is done as well
as the role of robots in human life Requirements Engineering can contribute to understanding,
modeling, and analyzing which requirements are fundamental, improving the acceptance of the
use of these robots. This research proposed the construction of a Non-Functional Requirements
catalog of trust for Socially Assistive Robots (SARs) called NFR4TRUST. The catalog can be
used to help elicit and specify non-functional requirements related to aspects of human trust
in the use of socially assistive robots. A bibliographic survey was carried out to verify HRI’s
state of the art in the context of trust and, from this study, a proposal of trust taxonomy
for SARs was built that helps in the discovery of requirements. Validation of the proposed
catalog was carried out through a Proof of Concept, an interview with specialists from the
related areas, and through the use of a questionnaire to obtain the opinion of requirements
engineers. The use of the NFR4TRUST catalog was illustrated through its application in the
definition of trust requirements of a robot that assists in rehabilitating upper limbs. According
to the requirements engineers consulted, the NFR4TRUST catalog is a valuable artifact, easy
to understand, and presents a good coverage with the non-functional requirements of trust
in the domain of Socially Assistive Robotics. The results of this work showed that using the
NFR4TRUST catalog, it is possible to support the elicitation and specification steps in Socially
Assistive Robots projects, allowing the identification of initial concerns about the user’s trust
perspective and as well as to design ways to mitigate them.
Keywords: socially assistive robots; human-robot interaction; trust; requirements engineering;

non-functionl requirements; catalogs.
LISTA DE FIGURAS
Figura 1 – Classificação da metodologia de pesquisa utilizada nesse trabalho . . . . . 21

Figura 2 – Etapas para construção da pesquisa . . . . . . . . . . . . . . . . . . . . . 24
Figura 3 – Definindo a Robótica Socialmente Assistiva . . . . . . . . . . . . . . . . . 33
Figura 4 – Classificação de Requisitos Não-Funcionais (KOTONYA;SOMMERVILLE,
1998) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40
Figura 5 – Taxonomia de Requisitos do Sistema incluindo Confiança (Trust) . . . . . 41
Figura 6 – Tipo e tópico de um softgoal . . . . . . . . . . . . . . . . . . . . . . . . 44
Figura 7 – Tipos de refinamentos . . . . . . . . . . . . . . . . . . . . . . . . . . . . 45
Figura 8 – Tipos de rótulos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 47
Figura 9 – Modelo de Confiança Humano-Robô de três fatores . . . . . . . . . . . . 50
Figura 10 – Modelo descritivo atualizado de Confiança Humano-Robô . . . . . . . . . 51
Figura 11 – Modelo revisado de três fatores de Confiança após a revisão da literatura
sobre Confiança na automação . . . . . . . . . . . . . . . . . . . . . . . . 52
Figura 12 – Taxonomia completa . . . . . . . . . . . . . . . . . . . . . . . . . . . . 54
Figura 13 – Fases e tarefas para a construção do catálogo . . . . . . . . . . . . . . . . 107
Figura 14 – Grafo SIG Parcial com NFRs de Confiança para SARs (Sem correlações) . 114
Figura 15 – Requisito de Aparência/Antropomorfismo - contribuições e correlações . . . 117
Figura 16 – Requisito de Aparência/Antropomorfismo - Refinamentos . . . . . . . . . . 118
Figura 17 – Requisito de Comunicação - contribuições e correlações . . . . . . . . . . . 124
Figura 18 – Requisito de Comunicação - Refinamentos . . . . . . . . . . . . . . . . . 125
Figura 19 – Requisito de Emoção - contribuições e correlações . . . . . . . . . . . . . 129
Figura 20 – Requisito de Sofisticação de interação - contribuições e correlações . . . . 131
Figura 21 – Requisito de Aprendizagem Socialmente Situada- contribuições e correlações132
Figura 22 – Requisito de Percepção orientada para o ser humano - contribuições e cor-
relações . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 134
Figura 23 – Requisito de Privacidade - contribuições e correlações . . . . . . . . . . . 135
Figura 24 – Requisito de Segurança (Safety ) - contribuições e correlações . . . . . . . 136
Figura 25 – Requisito de Personalidade - contribuições e correlações . . . . . . . . . . 137
Figura 26 – Requisito de Intencionalidade - contribuições e correlações . . . . . . . . . 138
Figura 27 – Requisito de Papel do robô - contribuições e correlações . . . . . . . . . . 140
Figura 28 – Requisito de Tarefas/Contexto - contribuições e correlações . . . . . . . . 141
Figura 29 – Requisito de População de usuários - contribuições e correlações . . . . . . 142
Figura 30 – Requisito de Modelagem de usuário - contribuições e correlações . . . . . . 143
Figura 31 – Hardware NAO . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 146
Figura 32 – Arquitetura NAOTherapist . . . . . . . . . . . . . . . . . . . . . . . . . . 147
Figura 33 – Prova de Conceito - Aparência|Antropomorfismo . . . . . . . . . . . . . . 155
Figura 34 – Prova de Conceito - Comunicação . . . . . . . . . . . . . . . . . . . . . . 156
Figura 35 – Prova de Conceito - Emoção . . . . . . . . . . . . . . . . . . . . . . . . 157
Figura 36 – Perfil Acadêmico dos Participantes . . . . . . . . . . . . . . . . . . . . . . 163
Figura 37 – Nível de conhecimento dos participantes em elicitação de requisitos . . . . 164
Figura 38 – Os participantes tem alguma experiência profissional com elicitação e es-
pecificação de requisitos . . . . . . . . . . . . . . . . . . . . . . . . . . . 164
Figura 39 – Nível de conhecimento dos participantes na abordagem NFR Framework . . 165
Figura 40 – Nível de conhecimento dos participantes em Interação Humano-Robô . . . 165
Figura 41 – Nível de conhecimento dos participantes em Confiança na Interação Humano-
Robô . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 166
Figura 42 – Nível de conhecimento dos participantes em robótica social . . . . . . . . 167
Figura 43 – Nível de conhecimento dos participantes em robótica socialmente assistiva 167
Figura 44 – Questão 9 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 169
Figura 45 – Questão 10 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 169
Figura 46 – Questão 11 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 170
Figura 47 – Questão 12 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 170
Figura 48 – Questão 13 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 171
Figura 49 – Questão 14 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 172
Figura 50 – Questão 15 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 172
LISTA DE TABELAS
Tabela 1 – Tipos de Softgoals . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 44

Tabela 2 – Tipos de Contribuições . . . . . . . . . . . . . . . . . . . . . . . . . . . 47
Tabela 3 – Rastreamento dos conceitos do Fator Humano nas principais Taxonomias . 59
Tabela 4 – Rastreamento dos conceitos do Fator Robô nas principais Taxonomias . . . 77
Tabela 5 – Rastreamento dos conceitos do Fator Ambiente nas principais Taxonomias 98
Tabela 6 – Relação entre propriedades de SARs e Fatores de Confiança . . . . . . . . 109
Tabela 7 – Listagem das Correlações do SIG . . . . . . . . . . . . . . . . . . . . . . 115
Tabela 8 – Realização de entrevista com especialista de NFR Framework . . . . . . . 149
Tabela 9 – Realização de entrevista com especialistas . . . . . . . . . . . . . . . . . 159
Tabela 10 – Comparação dos trabalhos relacionados sobre aspectos observados . . . . . 177
Tabela 11 – Comparação dos trabalhos relacionados sobre aspectos observados . . . . . 180
LISTA DE ABREVIATURAS E SIGLAS
APIs Interfaces de Programação de Aplicativos
AR Assistive Robotics
BPMN Business Process Modeling and Notation
CCD Dispositivo de carga acoplada
ER Engenharia de Requisitos
GDPR General Data Protection Regulation
HRI Human-Robot Interaction
IA Inteligência Artificial
LOA Level of Automation
MM Mental Models
NFRs Non-Functional Requirements
OMG Object Management Group
PoC Proof of Concept
QUEST The Quebec User Evaluation of Satisfaction with Assistive Technology
RAPID Rational API Designer
RSC Responsabilidade Social Corporativa
SAR Socially Assistive Robotics
SARs Socially Assistive Robots
SIG Softgoal Interdependency Graph
SIR Socially Interactive Robotics
SMM Shared Mental Models
TEA Transtorno do Espectro Autista
TEP Technology Experience Profile
USUS based on usability, social acceptance, user experience and societal impact
SUMÁRIO
1 INTRODUÇÃO . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
1.1 CONTEXTUALIZAÇÃO . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
1.2 CARACTERIZAÇÃO DO PROBLEMA . . . . . . . . . . . . . . . . . . . . 17
1.3 OBJETIVOS . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
1.3.1 Objetivos Específicos . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
1.3.2 Questões de pesquisa . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
1.4 METODOLOGIA DE PESQUISA . . . . . . . . . . . . . . . . . . . . . . 20
1.4.1 Classificação quanto à natureza da pesquisa . . . . . . . . . . . . . . 21
1.4.2 Classificação quanto aos objetivos de pesquisa . . . . . . . . . . . . . 22
1.4.3 Classificação quanto aos procedimentos técnicos . . . . . . . . . . . 23
1.4.4 Classificação quanto à abordagem da pesquisa . . . . . . . . . . . . . 23
1.5 ESTRUTURA DA DISSERTAÇÃO . . . . . . . . . . . . . . . . . . . . . . 25
2 FUNDAMENTAÇÃO TEÓRICA . . . . . . . . . . . . . . . . . . . . 26
2.1 INTERAÇÃO HUMANO-ROBÔ . . . . . . . . . . . . . . . . . . . . . . . 26
2.1.1 Confiança (Trust) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27
2.1.1.1 Definições . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27
2.1.1.2 Confiança na Interação Humano-Robô (Human–Robot Interaction - HRI) . 29
2.1.1.3 Relação entre Automação e HRI . . . . . . . . . . . . . . . . . . . . . . . 30
2.2 ROBÓTICA SOCIALMENTE ASSISTIVA (SOCIALLY ASSISTIVE ROBO-
TICS - SAR) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32
2.2.1 Definição . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32
2.2.2 Caracterização . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34
2.3 REQUISITOS NÃO-FUNCIONAIS . . . . . . . . . . . . . . . . . . . . . . 37
2.3.1 Definição . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37
2.3.2 Características . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38
2.3.3 Classificação . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39
2.4 NFR FRAMEWORK . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42
2.4.1 Visão geral . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42
2.4.2 SIG . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 43
2.4.3 Tipos de Representação de Softgoals . . . . . . . . . . . . . . . . . . 43
2.4.4 Interdependência entre Softgoals . . . . . . . . . . . . . . . . . . . . 44
2.4.4.1 Refinamentos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 45
2.4.4.2 Contribuições . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 46
2.4.5 Procedimento de avaliação . . . . . . . . . . . . . . . . . . . . . . . . 46
2.5 CONCLUSÃO DO CAPÍTULO . . . . . . . . . . . . . . . . . . . . . . . . 48
3 TAXONOMIA DE FATORES DE CONFIANÇA . . . . . . . . . . . 49
3.1 INTRODUÇÃO . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 49
3.2 PRINCIPAIS TAXONOMIAS EM CONFIANÇA . . . . . . . . . . . . . . . 49
3.3 ADAPTAÇÃO DAS TAXONOMIAS EXISTENTES PARA A ROBÓTICA
SOCIALMENTE ASSISTIVA . . . . . . . . . . . . . . . . . . . . . . . . . 53
3.3.1 Fator Humano . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 57
3.3.1.1 Características (Traits) . . . . . . . . . . . . . . . . . . . . . . . . . . . . 58
3.3.1.2 Estado (State) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 64
3.3.1.3 Fatores Cognitivos (Cognitive Factors) . . . . . . . . . . . . . . . . . . . 68
3.3.1.4 Fatores Emocionais (Emotive Factors) . . . . . . . . . . . . . . . . . . . 72
3.3.2 Robô . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 76
3.3.2.1 Recursos (Features) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 77
3.3.2.2 Capacidade (Capability) . . . . . . . . . . . . . . . . . . . . . . . . . . . 90
3.3.3 Ambiente . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 97
3.3.3.1 Colaboração em grupo (Team Collaboration) . . . . . . . . . . . . . . . . 97
3.3.3.2 Tarefa/Contexto (Task/Context) . . . . . . . . . . . . . . . . . . . . . . 101
4 NFR4TRUST - CATÁLOGO DE REQUISITOS NÃO-FUNCIONAIS
PARA ROBÔS SOCIALMENTE ASSISTIVOS . . . . . . . . . . . . 105
4.1 OBSERVAÇÕES . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 105
4.2 PROCESSO DE CONSTRUÇÃO DO CATÁLOGO . . . . . . . . . . . . . 106
4.2.1 Levantamento Inicial . . . . . . . . . . . . . . . . . . . . . . . . . . . . 108
4.2.1.1 Tarefas 1, 2 e 3 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 108
4.2.1.2 Coletar definições e atributos dos NFRs . . . . . . . . . . . . . . . . . . . 110
4.2.2 Desenvolvimento . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 110
4.2.2.1 Organizar os NFRs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 110
4.2.2.2 Criação do Catálogo . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 111
4.2.3 Avaliação . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 111
4.2.3.1 Aplicação da Prova de Conceito . . . . . . . . . . . . . . . . . . . . . . . 112
4.2.3.2 Avaliação Prova de Conceito com Especialistas . . . . . . . . . . . . . . . 112
4.2.3.3 Avaliação do catálogo através de um questionário aplicado a Engenheiro
de Requisitos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 112
4.3 O CATÁLOGO . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 112
4.3.1 Aparência/Antropomorfismo . . . . . . . . . . . . . . . . . . . . . . . 116
4.3.2 Comunicação . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 123
4.3.3 Emoção . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 129
4.3.4 Sofisticação de interação . . . . . . . . . . . . . . . . . . . . . . . . . 131
4.3.5 Aprendizagem Socialmente Situada . . . . . . . . . . . . . . . . . . . 132
4.3.6 Percepção orientada para o ser humano . . . . . . . . . . . . . . . . 133
4.3.7 Privacidade . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 135
4.3.8 Segurança (Safety) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 136
4.3.9 Personalidade . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 137
4.3.10 Intencionalidade . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 138
4.3.11 Papel do Robô . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 140
4.3.12 Tarefas/Contexto . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 141
4.3.13 Modelagem de usuário . . . . . . . . . . . . . . . . . . . . . . . . . . . 142
4.3.14 População de usuários . . . . . . . . . . . . . . . . . . . . . . . . . . . 143
5 AVALIAÇÃO DO CATÁLOGO NFR4TRUST . . . . . . . . . . . . . 145
5.1 PROVA DE CONCEITO . . . . . . . . . . . . . . . . . . . . . . . . . . . 145
5.1.1 Prova de Conceito no NAO . . . . . . . . . . . . . . . . . . . . . . . . 146
5.1.2 Condução da Prova de Conceito: . . . . . . . . . . . . . . . . . . . . 148
5.1.3 Instanciação do catálogo NFR4TRUST para a Prova de Conceito . 152
5.1.4 Resultados e Discussão - Prova de Conceito . . . . . . . . . . . . . . 158
5.1.5 Avaliação com especialistas específicos . . . . . . . . . . . . . . . . . 159
5.1.6 Resultados e Discussão - Avaliação com especialistas específicos . . 160
5.2 AVALIAÇÃO COM ENGENHEIROS DE REQUISITOS ATRAVÉS DE QUES-
TIONÁRIO . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 161
5.2.1 Perfil dos participantes . . . . . . . . . . . . . . . . . . . . . . . . . . 162
5.2.2 Discussão Perfil dos participantes . . . . . . . . . . . . . . . . . . . . 168
5.2.3 Avaliação do catálogo NFR4TRUST . . . . . . . . . . . . . . . . . . . 168
5.2.4 Discussões e Sugestões de Melhoria . . . . . . . . . . . . . . . . . . . 173
5.3 LIMITAÇÕES . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 176
6 CONCLUSÃO . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 177
6.1 TRABALHOS RELACIONADOS . . . . . . . . . . . . . . . . . . . . . . 177
6.1.1 Non-functional requirements orienting the development of socially
responsible software . . . . . . . . . . . . . . . . . . . . . . . . . . . . 177
6.1.2 Towards Achieving Trust Through Transparency and Ethics . . . . . 178
6.1.3 NFR4ES: Um Catálogo de Requisitos Não-Funcionais para Sistemas
Embarcados . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 179
6.1.4 Speeding-Up Non-Functional Requirements Elicitation . . . . . . . . 179
6.1.5 Assisting with API design through reusing design knowledge . . . . 180
6.2 RESULTADOS . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 181
6.3 CONSIDERAÇÕES E DIFICULDADES PARA CONDUZIR A PESQUISA . 182
6.4 CONTRIBUIÇÕES . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 183
6.5 TRABALHOS FUTUROS . . . . . . . . . . . . . . . . . . . . . . . . . . 183
6.6 CONSIDERAÇÕES FINAIS . . . . . . . . . . . . . . . . . . . . . . . . . . 184
REFERÊNCIAS . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 186
APÊNDICE A – TERMO DE CONSENTIMENTO LIVRE E ES-
CLARECIDO . . . . . . . . . . . . . . . . . . . . . 218
APÊNDICE B – QUESTIONÁRIO DE AVALIAÇÃO DO NFR4TRUST219
APÊNDICE C – UM RESUMO DA AULA DADA VIRTUALMENTE,
A FIM DE CONTEXTUALIZAR OS TEMAS PER-
TINENTES. . . . . . . . . . . . . . . . . . . . . . 226
16
1 INTRODUÇÃO
Neste capítulo será apresentada uma visão geral da dissertação, assim como, as principais
questões que motivaram a realização deste trabalho e o objetivo da pesquisa. As seções es-
tão estruturadas da seguinte forma: o contexto, a caracterização do problema, a motivação,
objetivos, procedimentos metodológicos e a estrutura do trabalho.
1.1 CONTEXTUALIZAÇÃO
De acordo com Binotte (2018), os Robôs Socialmente Assistivos 1

(Socially Assistive
Robots - SARs) são robôs que prestam assistência ao usuário humano, com ênfase na interação
social. As pesquisas relacionadas ao SARs vem crescendo significativamente nos últimos anos,
trazendo benefícios em diversas aplicações, como por exemplo, na educação, em terapias de
crianças com algum tipo de Transtorno do Espectro Autista (TEA), como ferramenta de apoio
para cuidado de idosos e pessoas com desordem física, cognitiva ou social, na reabilitação,
entre outros (SCASSELLATI; ADMONI; MATARIĆ, 2012; FEIL-SEIFER; MATARIĆ, 2008).
Um robô com características sociais tem a capacidade de interagir com humanos aderindo
a certas sugestões e regras sociais. Por isso, pode-se considerar que a Interação Humano-Robô2
(Human-Robot Interaction - HRI) é parte fundamental de um robô desse tipo (YAN; ANG; POO,
2014). A HRI visa entender, projetar e avaliar sistemas robóticos que serão utilizados para uso
por ou com humanos (GOODRICH; SCHULTZ, 2007). Dito isso, a Robótica Socialmente Assistiva
(SARs) é um domínio do HRI, em que a assistência social através da robótica é facilitada pela
interação humano-robô.
Sendo assim, existe uma busca para compreender a colaboração entre o aspecto humano
e o robótico. Alguns conceitos como a confiança e segurança humana são consideradas como
primordiais para o desenvolvimento da relação humano-robô bem sucedida e devem ser con-
siderados como elementos-chaves (LASOTA; FONG; SHAH, 2017a; LEE; SEE, 2004). Portanto,
inúmeras pesquisas na área de HRI tentam identificar fatores que ajudam a promover a confi-
ança humana em relação aos robôs (SALEM; DAUTENHAHN, 2015).
1
O termo Robô Socialmente Assistivo está presente em publicações brasileiras, esse termo não foi traduzido
pela autora desse trabalho. A palavra Assistiva está relacionada a grande área de pesquisa de Tecnologias
Assistivas.
2
Embora a sigla em português da área seja IHR, esse trabalho utilizará a sigla original, pois a maior parte
das publicações relevantes usam essa sigla.
17
O conceito de confiança se estende a muitas disciplinas e pode ser abordado sob várias
perspectivas. De acordo com Blomqvist (1997) a confiança desempenha um papel impor-
tante na interação dos seres humanos, com efeito na eficácia da comunicação, no aprendizado
e na resolução de problemas. Geralmente, a confiança necessita de informações e baseia-se
nas expectativas de um indivíduo acerca do desempenho de alguma coisa. É difícil consti-
tuir um significado base para uma noção tão ampla como confiança, uma vez que ela pode
transmutar-se de acordo com a situação ou contexto e pode basear-se em experiências e
aprendizagem social, podendo, portanto, variar de acordo com nacionalidades e/ou culturas
específicas (BLOMQVIST, 1997).
Dentro do desenvolvimento de diversos sistemas, as atividades e o processo da Engenharia
de Requisitos (ER) são bastante importantes, uma vez que a ER ajuda com questões relacio-
nadas a evitar a introdução de defeitos e falhas de comunicação e tende a minimizar os riscos
de fracasso dos sistemas (LEVESON, 2011). Contudo, é possível observar que em muitas áreas
geralmente se inicia o desenvolvimento de um determinado sistema antes de capturar seus
requisitos.
Quando se trata de sistemas robóticos, os requisitos podem ter um papel fundamental
para garantir especificações, descrições de como o sistema deveria se comportar e restrições
sobre a operação dele. Eles também podem afetar a qualidade do sistema desenvolvido. Após
pesquisas na literatura sobre o domínio de SARs e confiança, foi possível observar uma escassez
de trabalhos relacionados a Engenharia de Requisitos, o que torna mais difícil avaliar quais
são os requisitos essenciais e exclusivos desse domínio, e quais deles têm maior impacto na
confiança.
1.2 CARACTERIZAÇÃO DO PROBLEMA
No desenvolvimento de SARs o estudo da confiança humana na interação com o robô

merece uma atenção especial, tendo em vista que, a confiança permite que um indivíduo
avalie os riscos associados à interação com outro agente (KOLLOCK, 1994; LUHMANN, 1979;
LUHMANN, 2000). A confiança também é considerada imprescindível para várias funções sociais
(ROSSI et al., 2017; FREEL, 2003). Pesquisas relacionadas a Interação Humano-Robô apontam
que a confiança pode impactar o sucesso da colaboração entre o humano e o robô e pode
determinar o uso futuro do robô (FREEDY et al., 2007).
De antemão, é importante observar que existem vários fatores que influenciam o desenvol-
18
vimento da confiança e que ainda há muito a se aprender sobre como ela progride. No entanto,
de acordo com Lussier et al. (2007) o que prevalece na literatura é o reconhecimento de que
até que a confiança seja solidamente estabelecida entre humano e robô, os robôs continua-
rão a serem subutilizados ou não utilizados. Dessa maneira, a comunidade científica da área
continua a abordar a criação e validação de métodos de avaliação para questões de confiança
humano-robô.
Na literatura é possível encontrar muitos estudos relacionados a forma de mensurar a
confiança na robótica e em sistemas autônomos após sua utilização, como em Hancock et
al. (2011), Yagoda e Gillan (2012), Schaefer (2013), Schaefer et al. (2014), Schaefer et
al. (2016) entre outros. Porém, existe uma lacuna de trabalhos que foquem no auxílio do
desenvolvimento de sistemas robóticos que já possam incluir as preocupações de confiança
em sua idealização inicial, isto é nas fases de requisitos. É essencial que ao desenvolver um
sistema robótico faça-se uso das etapas de elicitação e especificação de requisitos para que o
sistema possa atender às necessidades dos stakeholders 3 . De acordo com Sommerville (2011),
os requisitos de um sistema são as descrições dos serviços que serão oferecidos por ele e as
suas restrições operacionais. Eles podem ser classificados em duas maneiras, os Funcionais e
os Não-Funcionais. O primeiro declara os serviços que o sistema deve oferecer, enquanto o
segundo determina as restrições aos serviços ou funções oferecidos pelo sistema.
Os Requisitos Não-Funcionais (Non Functional Requirements - NFRs), têm um papel re-
levante durante o desenvolvimento de um robô, pois se tais requisitos não são levados em
consideração, então o sistema poderá ser inconsistente e de baixa qualidade. É de grande valia
investir na elaboração de NFRs de confiança nessas aplicações, pois elas requerem interação
e colaborações próximas entre humanos e robôs, bem como contato físico, influência social e
psicológica.
O conhecimento sobre os Requisitos Não-Funcionais pode ser organizado em forma de ca-
tálogo, facilitando o compartilhamento, gerenciamento e melhoramento de informações (CYS-
NEIROS; YU; LEITE, 2003). O propósito deste trabalho é criar um Catálogo de Requisitos Não-
Funcionais chamado NFR4TRUST voltado para a Confiança em Robôs Socialmente Assistivos
que influencie a aceitação e utilização deste tipo de robô. Esse Catálogo será útil tanto na fase
inicial de desenvolvimento e projeto, como auxiliará na avaliação de robôs já desenvolvidos.
3
Pessoas ou organizações que têm interesse legítimo em um projeto ou entidade
19
1.3 OBJETIVOS
Este trabalho tem como objetivo geral o desenvolvimento de um catálogo de Requisitos

Não-Funcionais de Confiança para o domínio da Robótica Socialmente Assistiva.
1.3.1 Objetivos Específicos
A fim de atingir o objetivo geral foram pautados alguns objetivos específicos, apresentados
a seguir:
• Realizar um levantamento bibliográfico sobre Confiança para identificar os aspectos re-

levantes para os Robôs Socialmente Assistivos.
• Propor uma taxonomia para SARs a partir da adaptação das taxonomias de Confiança
existentes na literatura.
• Desenvolver um Catálogo de Requisitos Não-Funcionais para Robôs Socialmente Assis-

tivos chamado NFR4TRUST (Non-Functional Requirements For Trust).
• Ilustrar o uso do catálogo NFR4TRUST.
• Avaliar o catálogo, através de entrevistas com especialistas do domínio e engenheiros de

requisitos.
1.3.2 Questões de pesquisa
Com base na descrição do contexto e caracterização do problema sobre a elicitação e espe-

cificação de confiança na Interação Humano-Robô em Robôs Socialmente Assistivos, surgiram
algumas questões de pesquisa:
• O que se caracteriza como um Requisito Não-Funcional de Confiança para o domínio de

Robôs Socialmente Assistivos?
Esta pergunta tem como objetivo a investigação dos fatores de Confiança que podem
ser atributos de qualidade no domínio de SARs.
• Quais Requisitos Não-Funcionais de Confiança devem ser levados em consideração no

desenvolvimento de Robôs Socialmente Assistivos?
20
Esta pergunta tem como objetivo a obtenção de um conjunto de Requisitos Não-

Funcionais que influenciem a Confiança, e que possam ser re-utilizados em projetos
futuros envolvendo SARs.
• Quais as relações entre os Requisitos Não-Funcionais de Confiança para Robôs Social-

mente Assistivos?
Esta pergunta visa obter os inter-relacionamentos entre os Requisitos Não-Funcionais

de Confiança no domínio de SARs. A finalidade é compreender como um Requisito Não-
Funcional pode afetar um outro, seja de forma positiva ou negativa, total ou parcial,
desde as fases iniciais do projeto.
• Como desenvolver um catálogo de Requisitos Não-Funcionais de Confiança no domínio

de Robôs Socialmente Assistivos para apoiar a elicitação e especificação de requisitos?
Esta pergunta tem o objetivo de estabelecer um conjunto de atividades ou tarefas a serem
seguidas para a construção do catálogo de Requisitos Não-Funcionais de Confiança para
Robôs Socialmente Assistivos.
1.4 METODOLOGIA DE PESQUISA
A metodologia científica é uma poderosa ferramenta na investigação e no desenvolvimento

científico. Ao se expor uma ideia é necessário que exista uma lógica, uma organização, para
que essa ideia seja bem compreendida. Segundo Nascimento (2017), “método é uma série
de preceitos abstratos que regulam a ação; a metodologia é um conjunto de procedimentos
utilizados, uma técnica e sua teoria geral. A metodologia avalia a aplicação do método por
meio de procedimentos e técnicas que garantem a legitimidade do conhecimento obtido”. Dessa
forma, pode-se dizer que a metodologia visa atingir o conhecimento a partir de um conjunto
de abordagens, técnicas e processos estruturados.
A pesquisa científica se caracteriza por ter o objetivo de encontrar soluções para determi-
nados problemas propostos a partir da aplicação dos métodos científicos. A pesquisa pode ser
classificada segundo vários critérios (NASCIMENTO, 2016). Para realizar esta pesquisa a meto-
dologia adotada fundamenta-se na classificação de quatro abordagens, sendo elas: quanto à
natureza, quanto aos objetivos, quanto aos procedimentos técnicos e quanto à abordagem da
pesquisa.
21
A Figura 1 representa essa classificação e suas especificações. Nos próximos tópicos serão
descritos cada uma dessas categorias mais detalhadamente.
Figura 1 – Classificação da metodologia de pesquisa utilizada nesse trabalho
Fonte: Autora (2022)
1.4.1 Classificação quanto à natureza da pesquisa
A natureza da pesquisa relaciona-se a finalidade, a contribuição que ela dará à ciência.

Quanto à natureza, elas podem ser classificadas como básicas ou aplicadas. Nesta dissertação
a pesquisa é classificada como aplicada.
O objetivo da pesquisa básica é gerar conhecimento novo para o avanço da ciência, não
tendo o compromisso de aplicar de forma prática os resultados gerados. Esse tipo de pesquisa
pode ser classificada em de avaliação ou de diagnóstico. Na pesquisa de avaliação é atribuído
valor ao objeto de estudo, com parâmetros para referência ou comparação bem estabelecidos e
seu foco pode se estabelecer nos procedimentos ou resultados. A pesquisa básica também pode
ser do tipo de diagnóstico, onde o objetivo é traçar uma perspectiva de uma dada realidade
(NASCIMENTO, 2016).
De acordo com Nascimento (2016), a pesquisa aplicada se caracteriza por sua dedicação
à geração de conhecimento para a solução de problemas específicos, ela dirige-se à busca
da verdade a uma determinada aplicação prática e em situação particular. Portanto, nesta
dissertação a pesquisa se caracteriza em aplicada quanto à sua natureza porque visa desenvolver
uma abordagem (Catálogo-NFR4TRUST) e aplicá-la ao seu contexto alvo (SARs).
22
1.4.2 Classificação quanto aos objetivos de pesquisa
A classificação quanto aos objetivos diz respeito ao grau de familiaridade que se tem com
o tema e o quanto se irá aprofundá-lo. Pode ser do tipo descritiva, explicativa ou exploratória.
Nesta dissertação a pesquisa é classificada como exploratória.
Segundo Gil (1999), a principal finalidade das pesquisas do tipo descritiva é descrever as
características de determinada população ou fenômeno. Uma de suas particularidades está
na utilização de técnicas padronizadas de coleta de dados, como questionário e observação
sistemática. Este tipo de pesquisa apenas captura e mostra o cenário de uma situação expressa
em números e as variáveis capturadas pela análise dos dados são limitadas a serem descritas
de forma isoladas sem que as interações entre elas sejam examinadas mais detalhadamente
(CASTRO, 1976). Suas questões de pesquisa exigem que o pesquisador tenha um profundo
conhecimento do problema a ser pesquisado, como também, o conhecimento de informações
como: o que a pesquisa deseja medir, quando e onde, como será realizada e o por que deve
ser feita (MATTAR, 2001).
A essência da relação entre variáveis é feita na pesquisa explicativa (CASTRO, 1976). Para
Gil (1999), esse tipo de pesquisa tem como objetivo identificar os fatores que determinam
ou que colaboram para a ocorrência de um fenômeno. É o tipo de pesquisa mais complexa e
delicada e a que mais aprofunda o conhecimento da realidade. Isso porque ela tenta explicar
a razão e as relações de causa-efeito dos fenômenos. Geralmente as questões de pesquisa e
as hipóteses relevantes nesse tipo de pesquisa têm que ser muito específicas (AAKER; KUMAR;
DAY, 2004).
Conforme Gil (1991), as pesquisas do tipo exploratórias, como nesta dissertação, têm a
intenção de facilitar a familiaridade do pesquisador com o problema objeto da pesquisa, para
tornar a questão mais compreensível. Geralmente esse tipo de pesquisa é desenvolvida quando
não se tem tantos dados e informações disponíveis sobre um tema ainda, porém percebe-se
que ele poderá ser alvo de pesquisas futuras. Uma de suas características relaciona-se com as
suas hipóteses, que podem estar ausentes, ou serem pouco definidas (AAKER; KUMAR; DAY,
2004). Dessa forma, essa pesquisa se caracteriza como exploratória pelo fato de realizar uma
investigação sobre Confiança, Robótica Socialmente Assistiva, Taxonomia de Confiança na
Interação Humano-Robô e Requisitos Não-Funcionais para Confiança no domínio de SARs.
23
1.4.3 Classificação quanto aos procedimentos técnicos
Os procedimentos técnicos referem-se aos tipos de fontes de informações em que se adquire

o conhecimento relativo à pesquisa. Podem ser divididos em dois grupos gerais. O primeiro,
relativo aos que extraem informações de materiais publicados (físicos ou não) como na pesquisa
documental e na pesquisa bibliográfica. E o segundo que é formado por dados fornecidos pelo
objeto de estudo como em: estudo de caso, levantamento, ex-post facto, pesquisa participante,
pesquisa-ação, pesquisa etnográfica, pesquisa fenomenológica e pesquisa experimental. Esta
pesquisa é classificada como bibliográfica e de levantamento.
Em Gil (1991) a pesquisa bibliográfica é descrita como um trabalho do tipo exploratório
que possibilita fundamentos teóricos ao pesquisador para auxiliar no exercício reflexivo e crítico
sobre o tema em estudo. Ela é realizada através do estudo analítico e interpretativo de con-
teúdo já publicado, constituído principalmente de livros e artigos científicos. Esta dissertação
caracteriza-se como bibliográfica por ambientar o conjunto de conhecimento sobre o tema
através da leitura seletiva dos conteúdos já publicados.
O levantamento caracteriza-se por ser uma interrogação direta dos sujeitos ao quais deseja-
se compreender o comportamento. Isso envolve a solicitação de informações a um grupo
significativo de pessoas sobre o problema em questão e a obtenção de conclusões relacionadas
aos dados que foram coletados (GIL et al., 2002). Por isso, esta pesquisa também caracteriza-se
como de levantamento, pois é através da consulta com especialistas das áreas relacionadas
que são realizadas a avaliação e validação do catálogo.
1.4.4 Classificação quanto à abordagem da pesquisa
O tipo de abordagem da pesquisa refere-se à qual caminho é mais adequado para estudar
o seu objeto. As pesquisas científicas podem ser classificadas, quanto à sua abordagem, nos
tipos básicos: qualitativa e quantitativa. Também existe a possibilidade de uma abordagem
de método misto, onde combina-se elementos da pesquisa qualitativa e quantitativa com o
propósito de ampliar e aprofundar o entendimento e a corroboração dos resultados (JOHNSON;
ONWUEGBUZIE; TURNER, 2007). Esta pesquisa é classificada como uma abordagem de método
misto.
De acordo com Malhotra (2001, p.155), “a pesquisa qualitativa proporciona uma melhor
visão e compreensão do contexto do problema, enquanto a pesquisa quantitativa procura
24
quantificar os dados e aplica alguma forma da análise estatística” . Os resultados obtidos pela
pesquisa qualitativa podem ser explicados pelo uso da abordagem quantitativa. Sendo assim, a
abordagem utilizada nesta pesquisa é mista pois a análise qualitativa foi realizada mediante as
perguntas abertas que coletaram as opiniões dos participantes da pesquisa sobre a utilidade do
catálogo. Já a análise quantitativa utilizou-se da estatística para avaliar os dados importantes
obtidos através das respostas dos formulários aplicados aos Engenheiros de Requisitos acerca
do catálogo.
Figura 2 – Etapas para construção da pesquisa
Com o intuito de alcançar nosso objetivo, esta pesquisa foi elaborada em 6 etapas, como
observado na Figura 2.
Na fase do planejamento algumas atividades foram feitas, tais como: a definição do pro-
blema de pesquisa, a delimitação dos objetivos do trabalho e a escolha dos procedimentos
metodológicos a serem utilizados para o andamento do trabalho.
Na etapa de aquisição do conhecimento, foi realizado um levantamento bibliográfico acerca
dos temas propostos através de bibliotecas digitais, sendo elas: ACM Digital Library, CiteSeerX,
DBLP (Digital Bibliography & Library Project), DSpace@MIT, Engineering Village, Google
Scholar, IEEE Xplore Digital Library, ScienceDirect, Scopus e SpringerLink.
A etapa de adaptação da taxonomia foi realizada selecionando através do levantamento
bibliográfico as principais taxonomias relacionadas a Confiança e organizando os fatores re-
levantes ao domínio da Robótica Socialmente Assistiva em um modelo de taxonomia mais
relacionado à área.
Na fase da coleta de requisitos foi realizada a tarefa de identificar os Requisitos Não-
Funcionais de Confiança predominantes no domínio de Robôs Socialmente Assistivos. Os re-
quisitos foram obtidos utilizando as informações adquiridas com a taxonomia.
Por fim, na etapa de avaliação foi realizada a análise da abordagem proposta por meio da
aplicação da Prova de Conceito (PoC) e entrevistas com especialistas das áreas relacionadas
a SARs, NFR Framework e requisitos. Em seguida foram também consultados Engenheiros de
25
Requisitos. O uso do catálogo foi ilustrado através da definição dos NFRs de um SARS na
área de reabilitação motora dos membros superiores.
1.5 ESTRUTURA DA DISSERTAÇÃO
Essa dissertação encontra-se estruturada da seguinte forma.

Este Capítulo 1 - INTRODUÇÃO: apresentou o contexto e caracterização do problema
a ser abordado, os objetivos do trabalho, a metodologia de pesquisa e a forma na qual a
dissertação está estruturada.
Capítulo 2 - FUNDAMENTAÇÃO TEÓRICA: apresenta o referencial teórico com os
conceitos resumidos das principais áreas envolvidas nesta pesquisa, bem como um relato dos
trabalhos relacionados. Especificamente, são abordados os seguintes temas: Interação Humano-
Robô, Confiança, Robótica Socialmente Assistiva, Engenharia de Requisitos, Requisitos Não-
Funcionais e NFR Framework.
Capítulo 3 - TAXONOMIA DE FATORES DE CONFIANÇA: apresenta uma breve
contextualização acerca de taxonomia e sua importância no contexto deste trabalho. Também
elabora as principais taxonomias de confiança encontradas na literatura e elabora uma sinte-
tização das taxonomias existentes para o uso no domínio da Robótica Socialmente Assistiva
.
Capítulo 4 - Catálogo de Requisitos Não-Funcionais para Robôs Socialmente
Assistivos: este capítulo explana sobre o processo de construção do catálogo de Requisitos
Não-Funcionais para Robôs Socialmente Assistivos. Em seguida o catálogo é apresentado.
Capítulo 5 - AVALIAÇÃO DO CATÁLOGO NFR4TRUST: mostra a validação do
catálogo proposto realizada através de uma Prova de Conceito (PoC), entrevista com es-
pecialistas das áreas relacionadas e um questionário para obter a opinião de engenheiros de
requisitos
Capítulo 6 - CONCLUSÃO: apresenta alguns trabalhos relacionados, as considerações
finais sobre os principais tópicos abordados nesta dissertação, incluindo as contribuições al-
cançadas, as limitações encontradas e as indicações de trabalhos futuros.
26
2 FUNDAMENTAÇÃO TEÓRICA
Este capítulo é responsável por apresentar os conceitos pertinentes para o entendimento

desta dissertação. Serão abordados os seguintes temas: Interação Humano-Robô, Robótica
Socialmente Assistiva, Requisitos Não-Funcionais e NFR Framework.
2.1 INTERAÇÃO HUMANO-ROBÔ
Com o avanço da tecnologia, a robótica vem preenchendo um número crescente de funções

na sociedade. Dessa forma, o uso de robôs em áreas como escolas, residências, lares de idosos,
hospitais, entre outros, possibilita a criação de sistemas que realizam diversas atividades em
cooperação com os seres humanos e com interações cada vez mais complexas. Essa complexi-
dade levou a um esforço de pesquisa da comunidade científica para compreender melhor essas
interações.
A Interação Humano-Robô (do inglês Human-Robot Interaction - HRI) é o estudo de como
e/ou porque ocorre a interação entre humanos e robôs. Ela surgiu como uma área de pesquisa
em que o grande objetivo é poder projetar, compreender e avaliar sistemas robóticos que
serão utilizados por humanos ou utilizados com eles (GOODRICH; SCHULTZ, 2007). Além do
mais, alguns autores como Dautenhahn (2013) acreditam que essa área de pesquisa também
é responsável por estudar o comportamento e atitudes que as pessoas adotam em relação
aos robôs, principalmente no que diz respeito a características físicas, tecnológicas e suas
possibilidade interativas.
O estudo da Interação Humano-Robô contém uma grande variedade de desafios na busca
de construir uma interação mais eficaz. Dentre eles, podemos destacar garantir a segurança
nas colaborações entre humanos e robôs e compreender o papel da confiança na interação
entre eles (LEE; SEE, 2004; GROOM; NASS, 2007; CHARALAMBOUS; FLETCHER; WEBB, 2016;
LASOTA; FONG; SHAH, 2017b). Embora os conceitos de segurança e confiança muitas vezes são
tratados como vertentes diferentes de investigação, a segurança afeta diretamente a percepção
de confiança, uma vez que, quanto menor o nível de segurança percebido, menor a chance do
indivíduo confiar na utilização do robô. Sendo assim, neste trabalho consideramos os principais
aspectos da segurança como um tópico dentro da confiança. A interdisciplinaridade da HRI
pode gerar dificuldades no que se refere a pluralidade de vocabulários, metodologias e métricas
27
utilizadas pela comunidade (DAUTENHAHN, 2007; BURKE et al., 2004).
2.1.1 Confiança (Trust)
A confiança é um facilitador importante nas interações humanas. Por isso, cultivá-la é

essencial para sustentar e desenvolver relacionamentos de sucesso (BARBER, 1983; REMPEL;
HOLMES; ZANNA, 1985; GAMBETTA et al., 1990; BLOMQVIST, 1997; MCKNIGHT; LARRY, 1998).
Existe uma ampla variedade de domínios nos quais a confiança é estudada (ex. psicologia social,
interpessoal, sociologia, teoria organizacional, automação cooperação, organização industrial,
entre outros). Isso leva a várias definições, teorias e métricas diferentes de confiança. Na
subseção a seguir serão apresentadas algumas definições de confiança estabelecidas em alguns
domínios e ao longo das últimas seis décadas.
2.1.1.1 Definições
A confiança tem uma longa história. Antes mesmo de se tornar um campo formalizado de
pesquisa, a noção de “confiança” já se estabelecia na sociedade primitiva; a incerteza sobre
o comportamento de outros indivíduos e a interação em ambientes incertos condicionava
os indivíduos a depender da confiança para facilitar sua sobrevivência. Porém, conforme a
sociedade foi evoluindo e as relações entres os seres humanos e com o ambiente social foram
se tornando cada vez mais complexas, a confiança passou de um meio de sobrevivência para
torna-se um pilar de estabilidade das sociedades democráticas e para a condução normal dos
assuntos sociais e econômicos (COOK, 2001).
Uma das primeiras tentativas rastreáveis de definir e examinar características potenciais do
termo confiança foi feita pelo psicólogo Morton Deutsch (DEUTSCH, 1962). Em sua pesquisa,
Deutsch (1962) descreve a confiança como uma faceta da personalidade humana e afirma que
ela é o resultado da escolha de comportamento em uma situação específica. Ele focou sua
definição baseada na percepção do indivíduo acerca de uma situação e na análise de custo
ou benefício que resulta dela (DEUTSCH, 1962; MARSH, 1994). Ainda nos anos 60 podemos
destacar outro trabalho, o de Rotter (1967) que definiu a confiança interpessoal como uma
expectativa de um indivíduo, ou vários, de que a palavra ou promessa, seja ela verbal ou escrita
de outra pessoa ou grupo pode ser acreditada.
Entre os anos 70 e 80 podemos destacar alguns pesquisadores como Niklas Luhmann
28
(1979), Larzelere e Huston (1980), Bernard Barber (1983) e Rempel, Holmes e Zanna (1985).
Niklas Luhmann é considerado como outro pioneiro desse campo de estudo, em seu trabalho
a confiança aborda diferentes áreas do conhecimento, como a sociologia, a psicologia e a an-
tropologia. Na sua definição, a confiança é um método para reduzir a complexidade social e
para lidar com riscos (LUHMANN, 1979). Larzelere e Huston (1980) realizaram sua pesquisa no
âmbito interpessoal e relacionaram a confiança como a crença que um indivíduo tem na integri-
dade do comportamento de outro indivíduo. Outra definição de confiança com embasamento
na sociologia, assim como Luhman, vem do trabalho do sociólogo Bernard Barber. Barber
estabeleceu que a confiança resulta da aprendizagem em um sistema social e é usada por um
indivíduo para gerenciar suas expectativas em relação aos seus relacionamentos e ambiente
(BARBER, 1983; MARSH, 1994). Já o trabalho de Rempel, Holmes e Zanna (1985), declarou
que o componente mais concreto da confiança diz respeito as características de previsibilidade
ou consistência das ações de um individuo.
Nos anos 90 podemos destacar Gambetta et al. (1990), que em seu trabalho descreveu a
confiança como uma avaliação probabilística subjetiva da intenção de outro agente de realizar
uma ação da qual o agente dependerá (GAMBETTA et al., 1990); e a definição de Mayer, Davis
e Schoorman (1995) que particularizam a confiança na perspectiva da teoria organizacional e
declaram a confiança como: “A disposição de uma parte de ser vulnerável aos resultados de
outra parte com base na expectativa de que a outra realizará uma ação específica importante
para o responsável pela confiança, independentemente da capacidade de monitorar ou controlar
essa outra parte” (MAYER; DAVIS; SCHOORMAN, 1995).
No inicio dos anos 2000 algumas definições que podem ser destacadas são: a de Madsen
e Gregor (2000) no campo da Interação Humano-Computador, que definiram o significado de
confiança para relacionar até onde o usuário está disposto e seguro em agir com base nas
recomendações, ações e decisões de um agente artificialmente inteligente; a de Sirdeshmukh,
Singh e Sabol (2002, p.17) que definem a confiança no ponto de vista de um consumidor (para
eles a confiança se relaciona com a expectativa que o consumidor tem de que um prestador
de serviço irá cumprir suas promessas); Sheridan (2002), que define a confiança como um
efeito ou resultado de certas características de automação (por exemplo, confiabilidade) e
confiança como uma causa do comportamento dos operadores ao utilizar a automação; e a de
Lee e See (2004) que definem a confiança na automação como a atitude de que um agente
ajudará a atingir os objetivos de um indivíduo em uma situação caracterizada pela incerteza e
vulnerabilidade.
29
Wagner (2009) define a confiança em termo de dois indivíduos. O trustor que é o indiví-
duo que confia e o trustee que é o indivíduo em quem a confiança é depositada. Para eles a
confiança é uma crença, mantida pelo trustor, de que o trustee agirá de maneira a mitigar o
risco do trustor em uma situação na qual o trustor colocou seus resultados em risco (WAGNER,
2009, p.31). Em Schaefer (2013) também é estabelecido a confiança em termo de dois indiví-
duos o trustor e o trustee, mas voltado para a área de HRI. O relacionamento dos indivíduos
a qual essa definição se refere inclui, uma pessoa (trustor ) e um robô (trustee). Na maioria
das vezes, a pessoa de interesse no HRI é o operador ou usuário do robô, pois é ele quem
trabalha diretamente com o robô em uma tarefa colaborativa. Outro trabalho que apresenta
a exigência de que a confiança tenha tanto um trustor quanto um trustee é o de PytlikZillig
e Kimbrough (2016). Eles definem que esses dois indivíduos precisam ter alguma forma de
relacionamento e interdependência entre os mesmos. Em alguns casos, o aspecto relacional da
confiança é explicado pela menção de “dependência”, descrevendo o trustor como disposto a
confiar, dar controle, apoiar ou “ser vulnerável” ao trustee.
Nesta dissertação, o conceito de confiança utilizado é baseado em algumas diretrizes,
como a questão da expectativa destacada no trabalho de Sirdeshmukh, Singh e Sabol (2002)
e a previsibilidade/consistência do trabalho de Rempel, Holmes e Zanna (1985). Também
usaremos a confiança em termo de dois indivíduos enfatizadas nas definições de Wagner (2009),
Schaefer (2013) e PytlikZillig e Kimbrough (2016). Então, o termo Confiança elaborado nessa
dissertação se refere: a crença que o usuário (trustor ) tem de que o robô (trustee) será capaz
de cumprir suas funções prometidas de forma esperada, eficaz e segura.
2.1.1.2 Confiança na Interação Humano-Robô (Human–Robot Interaction - HRI)
Independente do domínio específico, ambiente ou tarefa de um robô, a confiança de um

indivíduo em um recurso robótico torna-se crítica à medida que os robôs abandonam suas
funções baseadas em ferramentas mais passivas e tornam-se um membro mais ativo da equipe
integrada. Pode ser um desafio garantir um nível adequado de confiança para o sucesso da
integração em equipes humanas (CHEN; TERRENCE, 2009; FREEDY et al., 2007).
O estudo da Confiança dentro de HRI ainda é um campo relativamente novo e existem pou-
cos estudos específicos dele. Embora Sheridan (1975) tenha enfatizado a importância da confi-
ança na interação entre homens e robôs ao discutir a modelagem do controlador do supervisor
humano, a primeira pesquisa empírica dessa área ocorreu realmente no trabalho de Dasson-
30
ville, Jolly e Desodt (1996), que quantificaram a confiança em um sistema homem-máquina.

A primeira meta-análise (e base para vários outros trabalhos) sobre confiança humano-robô
foi o trabalho de Hancock et al. (2011). Nele os autores relacionaram a confiança das pessoas
nos robôs como muito importante para a disposição dessas pessoas em aceitar informações e
seguir sugestões dos sistemas robóticos. Existem diferentes níveis de confiança em uma inte-
ração humano-robô e níveis impróprios dela podem ter consequências negativas, como o mau
uso do sistema, ou até o seu desuso total. No entanto, devido à escassez de literatura empírica
especificamente relacionada a confiança humano-robô, Hancock et al. (2011) documentaram
apenas um total de dez estudos correlacionais e doze estudos experimentais na área. Segundo
Hancock et al.(2011) a confiança na HRI está muito relacionada à confiança na automação
em geral, que tem sido estudada com relação às suas diversas influências de desempenho
(Hancock et al., 2011).
Pesquisas subsequentes a Hancock et al. (2011), como a dos autores Billings, Schaefer,
Llorens e Hancock (2012), tentaram avaliar melhor a confiança entre humanos e robôs, fazendo
uma revisão mais ampla das definições de confiança, suportada por definições baseadas na
análise de 220 definições no domínio interpessoal e 82 definições baseada em tecnologia. Com
a nova análise deles foi possível descobrir que um grande número de definições se referem
especificamente a características como expectativas, segurança, risco ou incerteza, convicção
e vulnerabilidade. Schaefer (2013), assim como Hancock et al. (2011), relaciona fortemente a
confiança em robôs com o campo da automação. O modelo de taxonomia de Schaefer (2013)
representa os fatores que compõe a confiança na HRI e se aproveitou do campo interpessoal
para enfatizar características humanas importantes, antes não presentes no modelo de Hancock
et al. (2011).
Boa parte das produções de trabalhos em confiança se mantém sendo desenvolvidos por um
grupo restrito dos mesmos pesquisadores, como podemos observar nos trabalhos de referência
da área.
2.1.1.3 Relação entre Automação e HRI
Alguns autores apontam que a confiança humana em AUTOMAÇÃO e em ROBÔS podem

ser semelhantes. Porém, ainda existem algumas diferenças entre as definições dentro da litera-
tura de automação e da robótica que podem fazer com que a natureza de suas interações com
os humanos possam ser diferentes. Por isso, essas diferenças precisam ser melhor investigadas
31
(HANCOCK et al., 2011; OLSON, 2013).

Parasuraman e Riley (1997) definem a Automação como “a execução por um agente de
máquina (geralmente um computador) de uma função que anteriormente era executada por
um humano” (PARASURAMAN; RILEY, 1997, p. 231). Já Lee e See (2004) definem automação
como a “tecnologia que ativamente seleciona dados, transforma informações, toma decisões ou
controla processos” (LEE; SEE, 2004, p. 50). Sendo assim, a confiança humana na automação
reflete sua necessidade fundamental no uso adequado da máquina ou sistema (ver LEE; SEE,
2004). No entanto, a inadequação dessa confiança (excesso/falta de confiança) pode fazer
com que os indivíduos possam cometer erros em seu uso (seguir o conselho da automação
quando incorreto) ou em seu desuso (não considerar o conselho da automação quando correto)
(PARASURAMAN; RILEY, 1997).
Olson (2013) acredita que para mitigar esses tipos de erros, primeiro é preciso compre-
ender o que tem potencial de influenciar na confiança na automação. Em seu trabalho, ele
creditou a confiança na automação à atitudes e expectativas relacionadas à previsibilidade e
confiabilidade (reliability ) em que as funções e capacidades da máquina se baseiam (mesmo
que incertas). Essas características são detectadas ou por seu estado atual, ou por comporta-
mento passado. Em sua perspectiva, a automação tradicional é encarregada de executar uma
espécie de tarefa específica com mais constância, enquanto executada normalmente em um
ambiente bem organizado e controlado. Além de que, o autor Olson concorda com Schaefer
(2013) sobre a necessidade da presença de um operador humano, mesmo que apenas em um
papel de supervisor, durante as interações Homem-Máquina.
No trabalho de Schaefer et al. (2016) foram definidos os significados dos termos autono-
mia, automação e robô. Os autores apontaram a autonomia como sendo uma capacidade ou
um conjunto delas, que permite a execução de forma automática ou “autogovernada” (dentro
dos limites programados) de uma ação específica de um sistema. Já a automação foi consi-
derada como uma “máquina de execução de funções” (DSB, 2012; PARASURAMAN; SHERIDAN;
WICKENS, 2000, p.286). O significado de robô foi o mais difícil de ser delineado pelos autores
devido a natureza baseadas em tarefas da HRI. O consenso que os autores chegaram foi de
que um robô pode ser classificado como tendo capacidades autônomas diversas ou múltiplas
dentro de uma única categoria ou sistema (SCHAEFER et al., 2016).
Como os robôs podem ter habilidade social, as expectativas que as pessoas têm deles
podem ser diferentes da automação. Alguns pesquisadores da área de robótica social ampliaram
a definição de robô para que ele possa ser caracterizado como “um sistema autônomo que
32
age com suas próprias decisões, com a contribuição de um operador humano, mas pode não
ser controlado por um humano” (WOHLEBER et al., 2016; POSTAL, 2019, p.27). Esse conceito
corrobora com Schaefer (2013) e Yagoda (2011), no que diz respeito a enfatizar os conceitos de
inteligência e autonomia da tecnologia. Nesta dissertação, definiremos o termo Autonomia
como a capacidade do nosso sistema robótico de executar ações específicas do sistema de
forma inteligente e automática. Enquanto a Automação é definida como o grau de poder
que o robô tem para agir no ambiente ou situação (RILEY, 1989).
2.2 ROBÓTICA SOCIALMENTE ASSISTIVA (SOCIALLY ASSISTIVE ROBOTICS - SAR)
A tecnologia auxilia cada vez mais o aumento da qualidade de vida das pessoas. Ativos
tecnológicos como os Robôs Socialmente Assistivos (Socially Assistive Robots) prestam as-
sistência aos seus usuários em diferentes níveis: podendo apoiar as habilidades cognitivas ou
funcionais; oferecendo ao usuário oportunidades para aumentar a participação social e o bem-
estar psicológico; fornecendo monitoramento remoto e contínuo do estado de saúde do usuário;
treinando o usuário para facilitar a promoção de um comportamento saudável e atingir os ob-
jetivos relacionados à saúde; auxiliando tratamentos terapêuticos relacionados a demência ou
autismo, sendo ferramenta educacional, entre outros (Rich e Sidner, 2009; Pino et al., 2015).
A Robótica Socialmente Assistiva engloba todos os sistemas robóticos que são capazes,
através da INTERAÇÃO SOCIAL, de prestar algum tipo de assistência ao usuário (Feil-Seifer
e Mataric, 2005; Broekens et al., 2009; Flandorfer, 2012).
2.2.1 Definição
Os Robôs Socialmente Assistivos foram apresentados pela primeira vez em 1950 (AMUDHU,
2020) e na época eles possuíam apenas desempenhos de mecanismos básicos e configurações
pré-definidas sem muitas sofisticações. Foi apenas na década de 90 que a área teve um impulso
tanto de desenvolvimento como de interesse de pesquisa. Isso ocorreu pelo surgimento da
Inteligência Artificial (IA), que foi usada para incrementar os robôs sociais (AMUDHU, 2020).
Ademais, esse campo só foi realmente definido claramente e delimitado em 2005 no trabalho
de (FEIL-SEIFER; MATARIĆ, 2005).
Feil-Seifer e Matarić (2005) classificaram1 a robótica dentro do campo da HRI em três
1
Na área de HRI existem diferentes formas de classificar os domínios da robótica.
33
grandes áreas: A Robótica Assistiva (Assistive Robotics - AR), a Robótica Socialmente Intera-
tiva (Socially Interactive Robotics - SIR) e a Robótica Socialmente Assistiva (SAR). A primeira
área, Robótica Assistiva - AR é responsável por englobar os ativos tecnológicos que auxiliam
os usuários humanos por interações mais físicas (mas não exclusivo). Podem ser robôs de
reabilitação, cadeiras de roda, braços robóticos, tecnologias educacionais, ferramentas de mo-
nitoramento médicos, entre outros e geralmente possuem um nível de autonomia mais simples.
Já a Robótica Socialmente Interativa - SIR, foi primeiro introduzida por Fong, Nourbakhsh e
Dautenhahn (2003), para distinguir as interações sociais das teleoperações na área de HRI.
Os robôs da área de SIR são caracterizados por terem algum tipo de interação social como
tarefa principal, podem operar como parceiros, pares ou assistentes, o que significa que eles
precisam exibir um certo grau de adaptabilidade e flexibilidade para conduzir suas interações.
A Robótica Socialmente Assistiva - SAR foi definida como uma interseção das áreas da
Robótica Assistiva - AR e Socialmente Interativa - SIR como podemos ver na Figura 3.
Figura 3 – Definindo a Robótica Socialmente Assistiva
Fonte: Adaptado de PULIDO et al. (2019)
SAR compartilha com a robótica assistiva o objetivo de fornecer assistência a usuários

humanos, mas essa assistência acontece exclusivamente por meio da interação social. Embora
a área Socialmente Assistiva (SAR) e Socialmente Interativa (SIR) possam parecer iguais, elas
não são. A diferença está nos objetivos do robô. A primeira (SAR) tenta criar interações
próximas e eficazes com o usuário humano para o propósito de dar assistência e alcançar
resultados mensuráveis em suas aplicações (seja progresso na convalescença, reabilitação,
34
aprendizagem, entre outros). A segunda (SIR), visa desenvolver as interações eficazes com
o ser humano, apenas pelo próprio ato de interagir com ele. A construção do campo de SAR
foi motivada pelo desejo de expandir a robótica assistiva para incluir robôs que operam por
meio de interação social (FEIL-SEIFER; MATARIĆ, 2005).
2.2.2 Caracterização
Feil-Seifer e Matarić (2005) elaboraram uma taxonomia descritiva a partir do trabalho de

Fong, Nourbakhsh e Dautenhahn (2003), acerca dos componentes de interação que os Robôs
Socialmente Assistivos devem considerar. A seguir, daremos uma breve contextualização sobre
essas propriedades. Para mais detalhes verificar os autores respectivos (FEIL-SEIFER; MATARIĆ,
2005; FONG; NOURBAKHSH; DAUTENHAHN, 2003).
• Incorporação (Embodiment): os dois aspectos fundamentais que compõe esse que-

sito são: a morfologia (forma e estrutura de um robô são importantes para estabelecer
expectativas sociais) que pode ser dividida em antropomórfica (aparência semelhante
à humana), zoomórfica (aparência de animal) e funcional (aparência que não é nem
humana nem animal, mas está relacionada à função do robô) (YANCO; DRURY, 2004); e
considerações de design (a morfologia deve ser adequada a funcionalidade e capacidade
do robô e deve manter um padrão de realismo satisfatório).
• Emoção (Emotion): as emoções são importante nas interações humanas. Nos robôs
elas ajudam a facilitar uma interação mais crível entre homem-robô. Elas podem ser divi-
didas em: emoções artificiais (podem indicar estado interno do robô, expressar emoções
limitadas e os modelos podem regular as emoções através de estimulação ou podem
ser inspiradas pela teoria emocional); emoções como mecanismo de controle (a emoção
pode ser usada pra controlar o comportamento do robô); a fala (pode transmitir emo-
ções, seus parâmetros devem se atentar ao volume, nível, variação, alcance, entonação,
ritmo e o acento da linguagem falada); expressão facial (expressões básicas presentes no
rosto do robô que expressem emoções; os componentes da face e seus graus de movi-
mentos faciais limitam as expressões possíveis); linguagem corporal (comunicação não
verbal através de movimentos corporais também ajudam a transmitir emoções, além de
melhorar a interação).
35
• Diálogo (Dialog): é um processo conjunto de comunicação, deve existir três tipos

principais: baixo nível (comunicação básica, guiada por palavras simples ); não verbal
(posicionamento corporal, gestos e ações físicas); e a linguagem natural (seu grau de
qualidade é determinada pela limitação tecnológica).
• Personalidade (Personality): são os traços de personalidade percebidos no robô,

podem ser representadas por esteriótipos de emoções, tamanho, forma, cor, movimento
e pela maneira que o robô se comunica. Existe um debate se os robôs devem ter uma
personalidade projetada ou aprendida (se adapta por meio da interação com o usuário),
ou se ela deve ser mais humana ou não. Os robôs podem apresentar diversa características
de personalidade, como por exemplo, ele pode ser extrovertido (ex. sociável), agradável
(ex. amigável), entre outros.
• Percepção orientada para o ser humano (Human-oriented perception): além das

percepções de funções convencionais (localização, navegação, prevenção de obstáculos),
os robôs precisam otimizar a interação com os humanos. Isso pode se realizado através do
rastreamento de características humanas como o reconhecimento de expressões faciais,
gestos e atividade humana ao seu redor. A percepção do robô precisa imitar a forma como
a percepção humana funciona. Nessa propriedade alguns quesitos a serem considerados
são: o tipo de percepção (câmeras CCD, radar, sonar ultrassônico, etc); como é feito o
rastreamento de pessoas; reconhecimento de voz; reconhecimento de gestos; percepção
facial (reconhecimento de rosto, reconhecimento de expressão facial e rastreamento dos
olhos).
• Modelagem de usuário (User modeling): é uma pesquisa (qualitativa ou por esterió-

tipo) feita para perceber o comportamento social dos usuários. A modelagem contem os
atributos (ex. forma de comunicação, captura de movimento, gestos, ação dos usuários
entre outros) que descrevem um usuário ou grupo e serve para ajudar o robô a entender
o comportamento humano e reagir a ele.
• Aprendizagem Socialmente situada (Socially situated learning): Capacidade do

robô de interagir com o ambiente e adquirir novas competências. Os robôs podem
aprender por observação e treinamento e por imitação (depende das capacidades per-
ceptivas, cognitivas e motoras), a imitação é um dos mais importantes mecanismos de
aprendizagem.
36
• Intencionalidade (Intentionality): é a capacidade do robô de demonstrar comporta-

mento intencional (comportamento planejado/direcionado para objetivos). O robô pode
demostrar uma postura intencional através da demonstração de capacidade de atenção
(pistas sociais físicas para indicar qual objeto está atualmente sob consideração, por
exemplo, seguindo com o olhar ou apontando um objeto). Como também é possível
interpretar as ações como intencionais a partir de dicas de expressões motoras faciais e
sociais (ex. afetivo, protetor, exploratório).
• População de usuário (User Populations): é importante ter uma noção da população

de usuários que serão atendidas pelo robô projetado. Algumas considerações a serem
feitas são: acerca do grupo etário dos usuários (crianças, idosos); se vai abranger usuários
com deficiência física, convalescentes, com transtornos psicólogos; se tem um grupo de
uso específico (alunos, professores, fisioterapeutas, etc).
• Exemplos de tarefas (Task Examples): assim como as definições da população de

usuário, a definição de tarefas do robô são orientadas pela necessidade do usuário e
auxiliam na melhor projeção dos robôs. Os SARs podem assumir tarefas de tutoria,
fisioterapia, assistência para a vida diária, terapias emocionais entre outras.
• Sofisticação de interação (Sophistication of Interaction): capacidade do robô de

interagir com a interação recíproca do usuário (fala, gestos ou entradas diretas como o
uso de tablet, toque direto em sensores do robô, controles remotos, etc).
• Papel do Robô Assistivo (Role of the Assistive Robot): definir corretamente a

função do robô é importante para elaborar sua aparência e modalidades de interação.
A função pode ser definida pela tarefa que o robô está auxiliando, a sua população
de usuário e pela impressão que passa através da sua aparência e comportamento.
Por exemplo, um robô usado em um hospital pode agir como um enfermeiro ou um
instrumento médico, dependendo da tarefa e a natureza da interação.
Essas propriedades apontadas em Feil-Seifer e Matarić (2005) ajudam a compreender algu-

mas das principais características que torna um Robô em Robô Socialmente Assistivo e podem
ser úteis como metas a serem consideradas no desenvolvimento de SARs.
37
2.3 REQUISITOS NÃO-FUNCIONAIS
Um dos desafios que caracterizam a robótica, conforme relatado no trabalho de Brugali

et al. (2007) foi a dificuldade de identificação de requisitos estáveis. Os requisitos são um
dos principais fatores que contribuem para o sucesso de um sistema e isso se deve ao fato de
que eles afetam diretamente a qualidade do produto desenvolvido. Além do mais, “falhas na
definição de requisitos são as maiores causas de falhas em segurança” (RIBEIRO, 2019). Sendo
assim, a fase da engenharia de requisitos (ER) é primordial para o desenvolvimento de robôs.
Erros na especificação de requisitos podem acarretar diversos problemas tais como: atraso
na entrega, falta de confiabilidade no uso, aumento de custo do desenvolvimento e problemas
futuros de manutenção (KOTONYA; SOMMERVILLE, 1998). A engenharia de requisitos contribui
para o desenvolvimento de requisitos de sistemas e abrange as atividades de elicitação, análise,
especificação, validação e gerenciamento dos requisitos (PRESSMAN; MAXIM, 2016). É através
dela que serão definidos os stakeholders e suas necessidades.
Os requisitos podem ser divididos em duas categorias: Requisitos Funcionais (Functional
Requirement-FR), que é responsável por declarar os serviços que deverão ser realizados pelo
sistema, a sua reação a entradas específicas e seu comportamento em determinadas situações;
e Requisitos Não-Funcionais (Non-Functional Requirement- NFR) que são responsáveis pelas
restrições a esses serviços ou funções (SOMMERVILLE, 2011).
Os Requisitos Não-Funcionais (NFRs) são importantes no estágio inicial de desenvolvi-
mento porque ajudam a identificar a seleção de tecnologia, alocação de hardware, padrões
adotados no desenvolvimento de software, entre outros. Além disso, os NFRs também contri-
buem para determinar mecanismos para a segurança do software (SILVA et al., 2016).
Desenvolver e considerar NFRs de forma adequada é muito importante para o sucesso de um
sistema. Se tratados de forma inadequada o sistema pode falhar (TISHA; SHIBLY, 2021), como
também, podem suceder problemas que resultam na má qualidade do software, insatisfação
dos stakeholders e gastos com correções do projeto (CHUNG et al., 2000).
2.3.1 Definição
Apesar de ser amplamente utilizado na academia e indústria, ainda não existe um con-
senso na definição do termo Requisitos Não-Funcionais (BLAINE; CLELAND-HUANG, 2008). Em
Sommerville (2007), os NFRs são descritos enfatizando a sua possibilidade de associação a
38
propriedades emergentes do sistema, como: confiabilidade, tempo de resposta, proteção ou

disponibilidade.
Muitos autores definem os NFRs em termos de dois atributos principais: qualidade e res-
trição. Por exemplo, os autores Galster e Bucherer (2008), consideram que os Requisitos Não-
funcionais não estão relacionados especificamente com as funcionalidades de um sistema, mas
sim, definem qualidades gerais do sistema em desenvolvimento e são responsáveis pelas restri-
ções internas e externas do sistema, podendo sacrificar requisitos funcionais para atendê-los.
O trabalho de Galster e Bucherer (2008) apresentou uma definição parecida com a do trabalho
de Cysneiros e Leite (1998), que em seu trabalho, relacionam os NFRs à comportamentos e
restrições que devem ser satisfeitas e não a funções a serem realizadas pelo sistema.
No trabalho de Kirner e Davis (1996), os NFRs são definidos como requisitos adicionais
que definem qualidades gerais ou atributos gerais que serão atendidos pelo sistema. Já Khatter
e Kalia (2013) consideram os NFRs como atributos de qualidade que os stakeholders supõem
como características indispensáveis e que também são interpretadas como restrições aos as-
pectos estruturais do projeto. A satisfação dos NFRs determinam o sucesso ou a falha dos
sistemas de software (KHATTER; KALIA, 2013).
Em Wiegers e Beatty (2013), o NFR é considerado como uma propriedade ou característica
que um sistema de software deve exibir ou uma restrição que deve respeitar. Chung et al. (2009)
também considera os NFRs como restrições de um sistema. Nessa dissertação adotamos as
considerações do trabalho de Mairiza, Zowghi e Nurmuliani (2010) que relaciona o termo
Requisito Não-Funcional a duas perspectivas: (1) são requisitos que descrevem propriedades,
características ou restrições que um sistema deve atender; (2) são requisitos que descrevem
atributos de qualidade que o produto deve ter.
2.3.2 Características
Os NFRs podem surgir devido as necessidades dos usuários, restrições de orçamento,

políticas organizacionais, necessidades de interoperabilidade com outros sistemas de softwa-
re/hardware, ou de fatores externos (SOMMERVILLE, 2011). Chung et al. (2000) afirmam que
embora tenham um papel crítico durante o desenvolvimento dos sistemas, os NFRs ainda
eram mal entendidos quando comparados a outros fatores menos críticos no desenvolvimento.
Geralmente durante a análise de requisitos são considerados como contraditórios, difíceis de
tratar e validar. Também é possível observar que existe uma lacuna de métodos de elicitação
39
de NFR, modelagem e documentação (CLELAND-HUANG, 2005; GLINZ, 2007).

Os Requisitos Não-Funcionais poderiam ser mais explorados, inclusive para lidar com re-
quisitos emocionais que acredita-se ser uma alternativa no apoio a questões de afetividade
em robôs sociais (HEINECK, 2016). Porém, devido a suas características subjetiva, relativa e
interativa ainda existe muita relutância por parte dos desenvolvedores em lidar com esses requi-
sitos. A subjetividade dos NFRs está relacionada ao fato de que eles podem ser interpretados
e avaliados de diversas formas por pessoas diferentes. Por sua vez, sua relatividade associa-se
ao fato que, dependendo do tipo de sistema, a importância atribuída a eles pode variar. Por
fim, sua interatividade diz respeito ao fato que um NFR pode interferir em outros requisitos
(CHUNG et al., 2000).
Em seu trabalho, Jr e Jr (2008) apresentam algumas características que devem ser alcan-
çados na especificação dos NFRs para ajudar a mitigar a questão de subjetividade deles. Os
autores apontam que os requisitos não-funcionais devem ser:
• Específicos: eles devem dizer exatamente o que é solicitado. Sendo claros, consistentes,
simples e tendo um nível apropriado de detalhamento.
• Mensuráveis: deve ser possível verificar a realização desses requisitos após a finalização
do sistema.
• Atingíveis: os requisitos devem ser possíveis de implementar, dentro da capacidade

atual de desenvolvimento ou conhecimento.
• Realizáveis: deve ser possível atingir tais requisitos dado o que é conhecido sobre as
restrições diante das quais o projeto deve ser desenvolvido.
• Rastreáveis: a rastreabilidade dos requisitos é a habilidade de rastreá-los desde a fase

de conceituação até sua especificação e, consequentemente, durante as fases de projeto,
implementação, testes e manutenção.
2.3.3 Classificação
Chichinelli e Cazarini (2002) evidencia em seu trabalho a falta dentro da literatura, de

uma lista exaustiva de aspectos caracterizados como requisitos não-funcionais de um projeto
de software. Segundo Chung et al. (2000), não existe uma definição formal ou lista completa
de NFRs. Da mesma forma, não existe uma classificação única e universal que acomode todas
40
as necessidades de aplicações de diferentes domínios. Por conta disso, é possível encontrar

diferentes classificações de NFRs na literatura (BOEHM; BROWN; LIPOW, 1976; BOEHM, 1988;
DAVIS, 1993; SOMMERVILLE; SAWYER, 1997; KOTONYA; SOMMERVILLE, 1998; IEEE, 1998; MA-
MANI, 1999; CONALLEN, 2002; SOMMERVILLE, 2007; WITHALL, 2007; LEFFINGWELL, 2010;
ISO/IEC 25010, 2010; KHALIFA; MADJID; SVETINOVIC, 2019).
Figura 4 – Classificação de Requisitos Não-Funcionais (KOTONYA;SOMMERVILLE, 1998)
Fonte: SILVA (2019)
Na Figura 4 podemos observar uma dessas classificações encontradas na literatura, a

de Kotonya e Sommerville (1998). Nessa classificação, os autores dividem os NFRs em três
categorias: Requisitos de Produto, que especificam características desejadas que o sistema
ou subsistemas devem ter; Requisitos de Processo, que definem restrições sobre o processo
de desenvolvimento do sistema e Requisitos Externos, que podem influenciar as outras
categorias e são derivados do ambiente em que o sistema é desenvolvido.
Como já dito anteriormente, não existe uma classificação que seja única e contemple todos
os NFRs possíveis, e ainda que possamos utilizar como base essas classificações mais concei-
tuadas da literatura, no fim, cada lista de requisitos vai ser diferente levando em consideração
seu domínio e aplicação. Um exemplo disso, é o conceito de Confiança (trust) estudado nessa
dissertação. Embora existam evidências na literatura que mostram a Confiança como um re-
quisito não-funcional por ser um atributo de qualidade, como no trabalho de Falcone, Singh
e Tan (2001), que identificou a Confiança como um NFR no estudo de agentes artificiais. A
natureza subjetiva do conceito de Confiança faz com que ela seja pouco explorada como um
41
NFR na literatura. Portanto, Confiança não está presente em classificações mais clássicas dos
NFRs.
Dentre as classificações citadas previamente, o trabalho de Khalifa, Madjid e Svetinovic
(2019) é um dos únicos a incluir o conceito de Confiança em sua classificação. Os auto-
res introduzem a Confiança como um requisito não-funcional dentro de uma taxonomia de
classificação específica ao contexto de blockchain. Na Figura 5 podemos observar que nessa
classificação os autores dividem os NFRs em duas categorias: restrições e propriedades e a
Confiança é uma subdivisão de propriedade.
Figura 5 – Taxonomia de Requisitos do Sistema incluindo Confiança (Trust)
Fonte: KHALIFA; MADJID; SVETINOVIC (2019)
Nessa dissertação, iremos focar exclusivamente nos Requisitos Não-Funcionais de Confi-

ança. Segudo Falcone, Singh e Tan (2001, p. 185), tratar a Confiança como um Requisito
Não-Funcional no início do processo de desenvolvimento ajuda a orientar a exploração e ava-
liação de alternativas potenciais de projeto. Consideraremos o Requisito Não-Funcional de
Confiança como parte da categoria de Requisitos de Produtos. Ele será um NFR primário, que
segundo Cysneiros e Leite (2001) pode ser decomposto em outros NFRs secundários até que
se chegue ao que Chung et al. (2000) chama de operacionalização (uma ação ou informação
42
que irá garantir a satisfação do NFR) dos NFRs. A decomposição do Requisito Não-Funcional
de Confiança será baseada na Taxonomia de Confiança em SARs e na revisão da literatura.
Na próxima seção será descrito a abordagem NFR Framework, onde a sua notação será
usada nesse trabalho para expressar os NFRs do catálogo NFR4TRUST.
2.4 NFR FRAMEWORK
Os Requisitos Não-Funcionais presentes no Catálogo NFR4TRUST serão expressados atra-

vés de um grafo chamado Softgoal Interdependency Graph - SIG, que faz parte do NFR
Framework criado por (CHUNG et al., 2000). A escolha desse framework se deu pela fato
dessa abordagem se ajustar a todos os tipos de requisitos não-funcionais e da facilidade de
representação deles.
2.4.1 Visão geral
O NFR Framework criado por Chung et al. (2000) é uma abordagem para representar
e analisar Requisitos Não-Funcionais. Ela surgiu a partir da evolução de alguns trabalhos na
área de NFRs, tais como (MYLOPOULOS; CHUNG; NIXON, 1992; CHUNG; NIXON, 1995). Este
framework contribui para que os desenvolvedores possam implementar soluções personaliza-
das, através da consideração das características específicas ao domínio e sistema em evidência.
Ele também possibilita que os requisitos não-funcionais sejam expressados de modo mais siste-
mático e usados para guiar o processo de desenvolvimento de software ou de um determinado
sistema (CHUNG et al., 2000; SILVA, 2019; LAMSWEERDE, 2001).
Segundo Chung e Nixon (1995), o NFR Framework caracteriza-se por ser uma aborda-
gem orientada a processos. Nele os Requisitos Não-Funcionais são representados como metas a
serem atendidas/alcançadas. Embora essas metas nem sempre possam ser inteiramente satis-
feitas, elas podem ser avaliadas em graus de satisfação obtidos. Dessa forma, surge o conceito
de softgoal para descrever as metas que precisam obter níveis de satisfação. Os softgoals
podem interagir entre si em conflito ou cooperação, podendo também serem decompostos
em outros softgoals e representados em uma concepção e raciocínio dos processos em grafos
inspirados nas árvores lógicas “AND/OR”, através dos chamados Softgoal Interdependency
Graph (SIG), descrito na seção 2.4.2.
Através da representação gráfica por meio do SIG, o NFR Framework oferece um catálogo
43
de conhecimento onde os desenvolvedores podem consultar os requisitos descritos e suas

interações na notação utilizada pelo framework. De acordo com Chung et al. (2000), os
catálogos têm como objetivo organizar o conhecimento sobre os Requisitos Não-Funcionais,
as relações entre os NFRs e seus conflitos de escolhas (trade-offs).
2.4.2 SIG
Os gráficos de interdependência de softgoal (do inglês, Softgoal Interdependency Graphs-

SIG) são estruturas refinadas que descrevem explicitamente os Requisitos Não-Funcionais e
suas soluções, permitindo registrar as interdependências e lidar com os trade-offs entre elas
(CHUNG et al., 2000). A construção do SIG segue um processo iterativo e intercalado aplicado
para "satisfazer"por meio de decomposições AND/OR, operacionalizações e argumentações
os softgoals, ou seja, as metas com critérios de sucesso não definidos claramente (CYSNEIROS
et al., 2008).
2.4.3 Tipos de Representação de Softgoals
Os softgoals podem ser representados em três tipos diferentes: Os Softgoals NFR, Softgoals
de Operacionalização e os Softgoals de Afirmação (Claim). A Tabela 1 ilustra as representações
gráficas desses três tipos e suas definições de características de acordo com (CHUNG et al.,
2000).
Um SIG começa a ser representado primeiramente com as características de qualidade
de alto nível (os Requisitos Não-Funcionais propriamente ditos) desenhadas por nuvens cla-
ras (Softgoals NFR). Quando essas características são refinadas até chegar a soluções que
consigam ser implementadas, elas são representadas por nuvens escuras (Softgoals de opera-
cionalização). Agora, quando se tem uma justificativa para apoiar ou negar a priorização de
softgoals, refinamentos ou seleção de seus componentes essas características são representadas
através de nuvens com linhas tracejadas (Softgoals de afirmação ou Claim).
Os softgoals representam um tipo de Requisitos Não-Funcionais. Esse tipo indica um NFR
particular, como segurança, desempenho, capacidade, entre outros que são atendidos pelo
softgoal. Cada softgoal tem um tipo de NFR associado a um ou mais tópicos (assuntos).
Quando o tipo muda o mesmo acontece com o significado do softgoal. Da mesma forma
acontece com o tópico (CHUNG et al., 2000).
44
Tabela 1 – Tipos de Softgoals
Símbolo Tipo Característica
Softgoal NFR Descreve de forma hierárquica um NFR a ser satisfeito pelo sis-
tema e que pode entrar em conflito com outro NFR.
Softgoal de Operacionalização Representa soluções de implementação que satisfaçam o softgoal

NFR ou outros do mesmo tipo seu.
Softgoal de Afirmação (Claim) Representa o fundamento lógico relacionado a um softgoal ou a

um refinamento entre eles.
Figura 6 – Tipo e tópico de um softgoal
Fonte: Adaptado de CHUNG et al. (2000)
Na Figura 6 é apesentada um Softgoal NFR que representa o tipo “Precisão” e o tópico

“Conta”. Fazendo referência, por exemplo a precisão dos dados de uma conta correntista de
um banco, e não a precisão em um contexto geral.
2.4.4 Interdependência entre Softgoals
Os softgoals estão ligados entre si por uma recíproca dependência. As interações entre eles
são muito importantes porque tem um impacto no processo de decisão para alcançar outros
NFRs. Os tipos de interdependências podem ser de refinamento e de contribuição (CHUNG et
al., 2000).
45
2.4.4.1 Refinamentos
A interdependência de refinamento registra o relacionamento de softgoals descendentes (fi-

lhos) a partir de um softgoal ascendente (pai). Esse relacionamento é representado de forma
TOP-DOWN (de cima para baixo) e são divididos em três tipos: decomposição, operaciona-
lização e afirmação. Suas representações gráficas são mostradas na Figura 7.
Figura 7 – Tipos de refinamentos
O refinamento de decomposição tem como objetivo refinar um Softgoal em outro Softgoal

mais específico e pode ser aplicado ao NFR, à operacionalização, à afirmação e à priorização
de um Softgoal (verificar Figura 7).
A decomposição de Softgoal NFR decompõe os Requisitos Não-Funcionais em outros
requisitos do mesmo tipo, porém mais especializados. Isso faz com que os grandes problemas
sejam divididos em problemas menores e soluções efetivas possam ser encontradas. Além de
oferecer um aspecto útil para lidar com ambiguidades e prioridades.
O tipo de decomposição Softgoal de operacionalização é útil para refinar soluções gerais
em soluções mais particulares, ela refina os softgoals de operacionalização (consultar Tabela 1)
em outros softgoals do mesmo tipo, porém mais específicos. Já a decomposição de afirmação
(Claim) é importante para fundamentar a lógica das justificativas de projetos. Ela subdivide um
softgoal de afirmação em outros do mesmo tipo. Por fim, a decomposição de priorização refina
um softgoal em outro com o mesmo tipo e tópico, porém com uma propriedade associada (a
46
notação de prioridade é o simbolo de exclamação, ver Figura 7).

O processo de refinamento discutido até agora fornece interpretações mais específicas dos
NFRs, mas não fornecem meios para atender seus objetivos. Sendo assim, quando os Requisitos
Não-Funcionais forem refinados o suficiente é possível identificar técnicas de desenvolvimento
para que os softgoal NFR sejam alcançados, em seguida, escolher soluções específicas para
o sistema de destino. O tipo de refinamento de operacionalização definem essas técnicas. As
operacionalizações não se limitam a operações e funções. Elas também podem corresponder
a dados, operações e restrições.
Por fim, o tipo de refinamento de afirmação refina os softgoals em softgoal de afirmação
(Claim). Esse tipo de refinamento é útil para justificar motivos de apoio ou rejeição a pontos
específicos de projetos.
2.4.4.2 Contribuições
A contribuição é uma forma de qualificar as interdependências entre os softgoals. Nela,

os softgoals descendentes podem contribuir de maneira positiva ou negativa e de forma total
ou parcial para a satisfação de softgoals ascendentes. Existem nove tipos de contribuição
utilizadas pelo NFR framework (AND, OR, MAKE, HELP, BREAK, HURT, UNKNOWN,
EQUAL), elas estão apresentadas junto com suas descrições na Tabela 2.
2.4.5 Procedimento de avaliação
O procedimento de avaliação é um conceito de NFR Framework que determina o grau

em que os NFRs são alcançados por um conjunto de decisão. O objetivo desse procedimento
é determinar se cada softgoal ou interdependência representada no SIG está suficientemente
satisfeita. O resultado da avaliação é representada através da atribuição de rótulo ao softgoal
que representa o seu grau de satisfação individual.
Ao contrário do refinamento que é feito de maneira TOP-DOWN (de cima pra baixo) a
análise dos softgoals é realizada no estilo BOTTON-UP (de baixo pra cima). Dessa maneira, o
processo analisa os softgoals descendentes, para que no final, os softgoals ascendentes sejam
avaliados. Decisões sobre aceitar ou não softgoals estabelecem um conjunto inicial de rótulos ,
onde o procedimento de avaliação utiliza estes rótulos para determinar o impacto das decisões
nos softgoals que estão em hierarquia mais alta.
47
Tabela 2 – Tipos de Contribuições
Contribuição Descrição
AND Estabelece que, se todos os softgoals descendentes (filhos) forem suficientemente satis-
feitos o ascendente (pai) também será.
OR Estabelece que, se algum softgoal descendente (filho) for suficientemente satisfeito, o
ascendente (pai) também será.
MAKE(++) Estabelece o nível mais alto de satisfação e uma contribuição suficientemente positiva
entre o softgoal descendente e o ascendente, isso é, se o softgoal descendente for satisfeito
o softgoal pai também é.
BREAK(- -) Estabelece o nível mais alto de negação e uma contribuição suficientemente negativa entre
o softgoal descendente e o ascendente, isso é, se o softgoal descendente for suficientemente
satisfeito, o softgoal pai é negado.
HELP(+) Estabelece uma contribuição parcialmente positiva entre o softgoal descendente e o as-
cendente, isso é, se o softgoal descendente for parcialmente satisfeito, o softgoal pai será
parcialmente satisfeito.
HURT(-) Estabelece uma contribuição parcialmente negativa entre o softgoal descendente e o as-
cendente, isso é, se o softgoal descendente for satisfeito, o softgoal pai será parcialmente
negado.
UNKNOWN(?) Estabelece uma contribuição desconhecida entre um softgoal descendente e um ascen-
dente, essa contribuição pode ser positiva, negativa, suficientemente positiva ou suficien-
temente negativa.
EQUALS Estabelece que, o softgoal descendente só será satisfeito ou negado, se e somente se, o
softgoal ascendente também for.
SOME (+|-) Utilizada quando o sinal de contribuição é conhecido (positivo ou negativo), porém não
se tem conhecimento quanto ao tipo de extensão (parcial ou total).
Os tipos de rótulos que podem ser atribuídos a um softgoal são: negado, fracamente
negado, indeterminado, fracamente satisfeito, suficientemente satisfeito e conflitante. Suas
representações são ilustradas na Figura 8
Figura 8 – Tipos de rótulos

48
2.5 CONCLUSÃO DO CAPÍTULO
Neste capítulo foi apresentado uma revisão dos fundamentos gerais utilizados no desenvol-
vimento desta dissertação. A primeira seção contextualizou a área de Interação Humano-Robô,
abordando um dos principais desafio da área, a Confiança. Em seguida na seção 2.2 foi tratado
o domínio da Robótica Socialmente Assistiva, suas principais definições, tipos de aplicações e
importância para a sociedade. Os Requisitos Não-Funcionais foram mostrados na seção 2.3.
Logo em seguida abordamos o NFR Framework na seção 2.4.
49
3 TAXONOMIA DE FATORES DE CONFIANÇA
Este capítulo apresenta uma síntese das principais taxonomias de Confiança encontradas
na literatura, a proposta de adaptação das taxonomias existentes para o domínio de Robôs
Socialmente Assistivos e uma contextualização de seus fatores.
3.1 INTRODUÇÃO
A informação e o conhecimento são elementos importantes no desenvolvimento de qualquer

sociedade. A taxonomia é um dos modelos de representação de informação e conhecimento bas-
tante utilizado na literatura como uma metodologia facilitadora tanto da organização quanto
da recuperação, representação e disponibilização de conteúdo. Ela se propõe a oferecer um
mapa de área que servirá como guia em processo de conhecimento (TERRA et al., 2005). Nesta
dissertação defendemos o uso de taxonomias para organizar conceitos de domínios interdisci-
plinares como a Interação Humano-Robô que apresenta algumas dificuldades no que se refere
a pluralidade de vocabulários, metodologias e métricas utilizadas pela comunidade.
3.2 PRINCIPAIS TAXONOMIAS EM CONFIANÇA
Existem alguns conjuntos de problemas e desafios que vem gerando esforços de pesquisa
nas comunidades de Interação Humano-Robô. Dentre eles, o interesse de identificar os fato-
res que promovem a Confiança humana em relação a utilização da robótica. Este interesse
tem influenciado os pesquisadores a desenvolverem taxonomias para auxiliar a identificar tais
fatores, além de definir maneiras de avaliar a confiança.
O trabalho de Hancock et al. (2011) é um dos primeiros esforços sistemáticos para quan-
tificar os efeitos relativos à percepção da Confiança humana na interação com os robôs. Ele
apresenta alguns conceitos que serviram como modelo base na construção de outras taxo-
nomias de Confiança bem como métricas para medi-la. Uma das influências do trabalho de
Hancock et al. (2011), que pode ser observada ao longo de diversos trabalhos na literatura,
é a forma de estudar os fatores agrupando-os em três categorias: o fator relacionado ao Hu-
mano (Human-Related), o fator relacionado ao Robô (Robot-Related) e o fator relacionado ao
Ambiente (Environmental). Esta trindade, representa os aspectos que diversos pesquisadores
50
mostraram interesse em estudar.
Figura 9 – Modelo de Confiança Humano-Robô de três fatores
Fonte: HANCOCK et al. (2011)
Na Figura 9 é possível observar o modelo elaborado por Hancock et al. (2011). Tal modelo
foi desenvolvido a partir da meta-análise aplicada na literatura disponível sobre Confiança e
HRI. No trabalho de Hancock et al. (2011) são identificados 33 fatores que influenciam a
confiança, distribuídos em 3 categorias gerais e 6 subcategorias (partes cinzas). Hancock e
seus co-autores analisaram estudos teóricos e empíricos, divididos em análises experimentais1 ,
representadas pelo símbolo (+) e análises correlacionais2 , representadas pelo símbolo (*) como
observado na Figura 9. Os resultados relatados no trabalho de Hancock et al. (2011) indicam
que os fatores relacionados ao robô são os de maiores influência. Eles observam que os fatores
baseados em “performance” (PERFORMANCE-BASED) são os maiores instigadores da per-
cepção de Confiança. Para uma compreensão mais profunda da literatura desses fatores e sua
relevância para a Confiança, verificar os trabalhos de Sanders et al. (2011).
1
Que tentam estabelecer relações de causa-efeito nas variáveis investigadas
2
Que procuram explorar relações que possam existir entre variáveis, exceto a relação de causa-efeito
51
O modelo descritivo representado na Figura 10 é o da taxonomia de Schaefer (2013). Em

seu trabalho, Schaefer (2013) atualiza o modelo de Hancock et al. (2011) com a justificativa
de que, embora a proposta de Hancock et al. (2011) fosse teoricamente fundamentado, ela
não está completo devido à escassez de experimentos relacionados especificamente com o fator
de confiança em relação à área de Interação Humano-Robô da época. Por isso, Schaefer traz
pesquisas relacionadas a Confiança nas áreas Humano-Interpessoal e Automação para prover
suporte adicional à pesquisa anterior e adaptar o seu modelo.
Figura 10 – Modelo descritivo atualizado de Confiança Humano-Robô
Fonte: SCHAEFER (2013)
A trindade dos fatores gerais (Humano/Human, Robô/Robot e Ambiente/Environment)

continuam sendo a divisão geral dos fatores. Porém, diversos conceitos são modificados. É pos-
sível observar essas mudanças já nas subdivisões da trindade do modelo. Por exemplo, o fator
Humano que antes se dividia em “Baseado na Habilidade” (ABILITY-BASED) e “Característi-
52
cas” (CHARACTERISTICS), passou a ser dividido em: “Estados” (States) e “Características”

(Traits) por influência da literatura interpessoal. Outro aspecto pertinente desse trabalho é
a atribuição da importância ao fator Humano, até então considerado pouco relevante, como
ponto chave para compreender o desenvolvimento da Confiança. O leitor interessado em se
aprofundar melhor na adaptação do modelo e nas descobertas meta-analíticas, deve consultar
Schaefer (2013) na íntegra.
Em Schaefer et al. (2016), representado na Figura 11, os autores expandem os modelos das
meta-análises anteriores (ex. Hancock et al. (2011), Schaefer (2013)) no campo de Interação
Humano-Robô para um campo mais geral ligado a Confiança na interação com automações.
Embora o contexto do trabalho de Schaefer et al. (2016) seja aplicado ao âmbito da automa-
ção, os autores justificam que, uma vez que a automação se mostra como uma dimensão chave
de um robô, identificar os fatores que impactam a Confiança entre humanos e a automação
pode aumentar a compreensão da Confiança e suas aplicações para HRI .
Assim sendo, como existem antecedentes que relacionam a Interação Humano-Automação
e Humano-Robô, o fator geral nesse modelo relacionado ao “Parceiro” (PARTNER-RELATED)
pode ser direcionado ao fator Robótico ao utilizar essa taxonomia.
Figura 11 – Modelo revisado de três fatores de Confiança após a revisão da literatura sobre Confiança na
automação
Fonte: SCHAEFER et al. (2016)

53
Pode-se observar na Figura 11 que foram feitas diversas mudanças significativas nos fa-
tores, principalmente na parte relacionada ao fator Humano. As considerações relacionadas a
importância desse fator foram mantidas e enfatizadas pelas novas divisões e composições de
seus elementos. Os elementos de “Confiança na automação”, “Satisfação” e “Expectativa”
(Confidence in the automation, Satisfaction e Expectancy ) não estão presentes em Hancock
et al. (2011) e nem em Schaefer (2013), sendo únicos nesse modelo. Os fatores relacionados
ao Robô mantiveram-se em relação a Schaefer (2013), com exceção do elemento “Qualida-
de/Precisão” (Quality/Accuracy ) que foi retirado, porém suas definições estão implícitas em
outros conceitos.
3.3 ADAPTAÇÃO DAS TAXONOMIAS EXISTENTES PARA A ROBÓTICA SOCIALMENTE

ASSISTIVA
Embora existam taxonomias de Confiança pertinentes à utilização de robôs como vimos

na seção 3.2, é preciso observar que existem diversas categorias de robôs e que algumas
dessas categorias podem derivar características peculiares a seu domínio. Considerando que o
foco principal desse trabalho é estudar a Confiança especificamente na Robótica Socialmente
Assistiva, se faz necessária uma investigação dos elementos que compõem as taxonomias
referentes à área para averiguar quais se relacionam ao domínio específico e, se existem na
literatura novos fatores que podem ser acrescentados em uma taxonomia adaptada à área de
SARs.
O trabalho de Langer et al. (2019) aponta os principais fatores que afetam a Confiança
em Robôs Socialmente Assistivos no contexto de reabilitação. O seu foco maior é na sugestão
de diretrizes de projeto para fomentar a Confiança e métodos para medi-la. Embora revise as
principais taxonomias da literatura, ele não propõe uma nova modelagem de taxonomia para
uso geral no domínio de SARs.
Logo, como há uma escassez de trabalhos que organizem fatores específicos de Confiança
no domínio de SARs e como esses fatores serão utilizados posteriormente para levantamento
dos requisitos do catálogo (capítulo 4), foi proposta uma taxonomia adaptada através da
compilação das taxonomias já existentes em Confiança-HRI/Automação. Também foram ana-
lisadas algumas outras taxonomias que influenciam a Interação Humano-Robô (fatores que
influenciam segurança ou métricas gerais) para melhor compreender o fenômeno geral e como
se relacionam a Confiança.
54
Na Figura 12 pode-se observar o modelo completo dos fatores da taxonomia que foi
adaptada. Foi mantida a classificação geral da Confiança (Trust) de maneira similar ao trabalho
base de Hancock et al. (2011), dividida em três categorias principais: Fator Humano, Robô
e Ambiente (Figura 12). Na literatura, essa divisão é consistente e mesmo com a evolução
do modelo de Hancock et al. (2011) em outros trabalhos (SCHAEFER, 2013; SCHAEFER et al.,
2014; SCHAEFER et al., 2016; LEWIS; SYCARA; WALKER, 2018) continuam sendo categorizados
nesses três pilares.
Figura 12 – Taxonomia completa
Dentro das categorias gerais são apresentadas as subcategorias e os fatores que as compõe.
Na Figura 12 é possível observar que a categoria de Fator Humano é dividida em 4 subcategorias
e composta por 12 fatores; a parte do Robô divide-se em 2 subcategorias e 11 fatores e o
Ambiente divide-se em 2 subcategorias e 7 fatores. A seguir, será apresentada a lógica utilizada
nos critérios de seleção desses fatores. Antes, vale ressaltar que alguns desses fatores aparecem
com nomenclaturas diferentes, porém seu significado/característica continuam os mesmos. Na
Figura 12, é possível visualizar alguns fatores agrupados (ex. Aparência/Antropomorfismo,
Segurança/Privacidade entre outros), sendo que, na literatura, esses fatores podem aparecer
de forma separada; decidiu-se realizar o agrupamento de alguns fatores baseado na similaridade
dos conceitos dos mesmos.
55
Lógica para seleção dos fatores:
1. Escolha da forma de divisão das subcategorias da taxonomia
Critério de escolha: modelo mais recente e detalhado.
Antes de iniciarmos o processo de seleção dos fatores que compõe o nosso modelo,
selecionamos as subcategorias em que eles seriam agrupados, isso para facilitar a ordem
de busca dos fatores. O modelo de Schaefer et al. (2016) é um dos mais detalhados ao
agrupar os fatores e foi utilizado neste trabalho.
2. Seleção dos fatores presentes no trabalho de Langer et al. (2019)
Critério de escolha: foram escolhidos os fatores já investigados como influentes na

confiança em SARs. Os fatores selecionados são mostrados abaixo.
Fatores: Idade, Personalidade, Propensão de confiança, Experiências Prévias, Fadiga3 ,

Estresse, Habilidade de uso, Atitudes, Conforto, Satisfação4 , Comunicação, Apa-
rência, Antropomorfismo, Segurança (Safety ), Privacidade, Comportamento, Confiabi-
lidade, Erros, Fator Cultural, Risco, Contexto, Tipo de tarefa e Complexidade da tarefa.
3. Seleção dos fatores consistentes nas taxonomias apresentadas na seção 3.2
Critério de escolha: aparecer em todas as taxonomias.
Fatores consistentes: Idade, Gênero, Etnia, Personalidade, Controle da atenção, Modo

de comunicação, Antropomorfismo, Nível de automação, Personalidade do robô, Com-
portamento, Confiabilidade, Modelos mentais compartilhados, Impacto cultural, Tipo de
tarefa e Ambiente físico.
a) Retirar fatores que já estão em Langer et al. (2019)
Fatores a serem investigados: Gênero, Etnia, Controle da atenção, Modo de

comunicação, Nível de automação, Personalidade do robô, Modelos mentais com-
partilhados e Ambiente Físico.
b) Pesquisa de artigos relacionados a esses fatores

3
Fator em negrito significa que o termo não aparece explicitamente relacionado a confiança no artigo, e
sim, foi subentendido através de nossa interpretação do texto.
4
Relacionado a confiança na interação paciente-médico
56
Palavras chaves: “Trust” AND (“Nome do Fator em inglês” OR "Variação da

nomeclatura") AND (“Socially Assistive Robotics” OR “Socially Assistive Robots”
OR “Socially Assistive Robot” OR “SAR” OR “SARs”)5
c) Seleção dos fatores que aparecem explícitos nos artigos pesquisados
Critério de escolha: estar relacionado de alguma forma a confiança (Trust) e ser

referente a Robôs Socialmente Assistivos.
Essa primeira etapa permitiu a confirmação de 24 fatores de confiança com relações expli-
citas na literatura com os SARs (Idade, Personalidade, Propensão de confiança, Experiências
Prévias, Fadiga, Estresse, Habilidade de uso, Atitudes, Conforto, Satisfação, Comunicação,
Aparência, Antropomorfismo, Segurança (Safety), Privacidade, Comportamento, Confiabili-
dade, Erros, Fator Cultural, Risco, Contexto, Tipo de tarefa, Complexidade da tarefa e Gê-
nero).
Os fatores apresentados nas taxonomias da seção 3.2 que não foram investigados na pri-
meira etapa, foram investigados na segunda etapa, que consiste em primeiro pesquisar a
relação dos fatores com SARs (segue o esquema de busca representado na lógica 3.b e 3.c).
Os fatores que não apareceram nessa busca foram investigados de forma mais geral utili-
zando a rebótica social como parâmetro. Nessa segunda etapa foram confirmados 13 fatores
(Controle da atenção, Modo de comunicação, Nível de automação, Personalidade do robô,
Modelos mentais compartilhados, Ambiente Físico, Feedback, Adaptabilidade, Proximidade,
Interdependência, Composição de equipe, Impacto social, Incerteza), o que ao total somam
37 fatores de confiança que de alguma forma relacionam-se aos SARs. Desses fatores, foram
retirados 2 (Gênero e Etnia) para evitar questões ideológicas e alguns fatores foram agrupados
devido suas semelhanças.
Depois de investigado os fatores na literatura, o resultado final, como ilustrado na Figura
12, conta com 30 fatores ao total. Esses fatores aparecem na literatura de alguma forma
influenciando a confiança em SARs. Devido a lacuna de trabalhos experimentais que investi-
guem a confiança em SARs, o modelo presente nessa dissertação ainda precisa ser validado
posteriormente através da realização de experimentos. O desenvolvimento desse modelo nos
serviu como base para compreender os fatores de confiança, quais deles são importantes na
confiança em SARs e quais características compõem esses fatores.
5
Cada base de pesquisa tem uma forma específica de estruturar a string de busca, as palavras chaves
representadas aqui são apenas a título de ilustração.
57
A seguir é discutido as categorias, subcategorias e fatores que compõem a adaptação da

taxonomia dessa dissertação. Devido a escassez de trabalhos referentes a Robôs Socialmente
Assistivos e Confiança (Trust) dentro da HRI, pode-se observar a presença de alguns trabalhos
relacionados a automação e literatura interpessoal. Essa dissertação tenta contextualizar os
fatores dentro do domínio de SARs, mas, nem sempre isso é possível de forma direta. Na
contextualização dos fatores, existem fatores que possuem um número maior de trabalhos
publicados, enquanto outros, ainda são pouco explorados. Sendo assim, alguns fatores são
mais detalhados que outros.
Considerando que os fatores encontrados na literatura estão em inglês, a tradução dos
termos foi feita com cuidado, considerando a pesquisa bibliográfica feita para escolha dos
melhores termos em português. Mesmo assim, alguns conceitos podem ter divergência de
significado por não se tratar de uma tradução literal e sim com base em nosso entendimento
de seu significado no contexto.
3.3.1 Fator Humano
Uma das partes mais relevantes no desenvolvimento da confiança é o fator humano, a priori
pode-se argumentar que é o caráter e a natureza do usuário individual que exerce a influência
mais significativa (HANCOCK; HANCOCK; WARM, 2009). Não só os robôs requerem a interação
humana, como por exemplo em papel de supervisor, parceiro, entre outros, para completar
tarefas, mas também, o sucesso da HRI depende da aceitação da tecnologia (YAGODA; GILLAN,
2012; DAVIDS, 2002).
Em robôs que tem como característica principal uma forte interação social, a parte humana
é a grande responsável pelo sucesso da interação. Sendo assim, é preciso ter em vista que é
necessário avaliar a Confiança como uma construção centrada no usuário em que o humano é
aquele que confia na tecnologia. Segundo Schaefer (2013) existem poucos estudos empíricos
que avaliam o componente humano na Interação Humano-Robô. Por isso, é necessário também
explorar o desenvolvimento da confiança relacionada aos campos interpessoal e da automação
para prover suporte adicional a confiança humano-robô.
Os fatores associados a parte Humana dessa adaptação podem ser encontrados em sua
grande maioria na taxonomia de Schaefer et al. (2016), como pode-se observar na Figura 12,
com exceção dos fatores de Gênero, Etnia e Convicção na automação (Confidence in the
automation) que foram retirados do modelo. As características relacionadas ao gênero não
58
parecem ter uma influência significativa em Confiança (KIDD, 2003; MERRITT; ILGEN, 2008;
STEDMON et al., 2007; EVERS et al., 2008). Schaefer (2013) sugere a retirada do fator de etnia
dos elementos que contribuem para o desenvolvimento da Confiança, o que é feito também
neste trabalho para evitar questões sensíveis associadas a esse tema. O fator de Convicção
na automação foi retirado por não conseguirmos associar sua importância na Confiança em
SARs.
O fator Experiências Prévias aparece no trabalho de Hancock et al. (2011) e é destacado
mais recentemente no trabalho de Langer et al. (2019) como bastante pertinente em SARs.
Esse fator aparece no trabalho de (SCHAEFER et al., 2016) como um dos componentes de
Compreensão (Understanding), junto com facilidade de uso. Nessa dissertação fizemos uma
tradução/adaptação livre para experiência porque a maior parte dos trabalho de robótica
referem-se a ele dessa maneira. Na Tabela 3 é possível observar todos os fatores que compõem
a subcategoria de fator humano e sua relação com as principais taxonomias discutidas na seção
3.2 e o trabalho de Langer et al. (2019).
3.3.1.1 Características (Traits)
Existem evidências que sugerem que uma série de traços humanos e características demo-
gráficas podem afetar a forma como cada indivíduo responde a automação (SCHAEFER et al.,
2016). Nos robôs essas característica também aparentam ser cruciais para o desenvolvimento
de Confiança (HANCOCK et al., 2011; SCHAEFER, 2013; BABEL et al., 2021). Essa subcategoria
agrega elementos relacionados à Idade, Personalidade e Propensão de confiança. Con-
tudo as características demográficas (Idade e Personalidade) não têm sido consistentes entre os
diferentes estudos, pois parecem variar em função das características da tarefa automatizada
específica em questão (SZALMA; TAYLOR, 2011).
Os fatores demográficos geralmente são coletados antes da interação com o robô e sua
mensuração de percepção da Confiança. No estudo de Merritt e Ilgen (2008) esses antecedentes
estão relacionados à propensão de um indivíduo confiar em máquinas ou em sua confiança
inicial em um auxílio de decisão automatizado, mas não na confiança pós tarefa (depois da
utilização da automação).
59
Tabela 3 – Rastreamento dos conceitos do Fator Humano nas principais Taxonomias
Fator Humano Presente em:
• Idade •Hancock et al. (2011); Schaefer

(2013); Schaefer et al. (2016); Lan-
ger et al. (2019)
Características •Hancock et al. (2011); Schaefer

• Personalidade (2013); Schaefer et al. (2016); Lan-
ger et al. (2019)
•Hancock et al. (2011); Schaefer et
• Propensão de confiança al. (2016); Langer et al. (2019)
• Controle da Atenção •Hancock et al. (2011); Schaefer

(2013); Schaefer et al. (2016)
Estado •Schaefer (2013); Schaefer et al.

• Fadiga (2016); Langer et al. (2019)
•Schaefer (2013); Schaefer et al.
• Estresse (2016); Langer et al. (2019)
• Experiências Prévias •Hancock et al. (2011); Schaefer et

al. (2016); Langer et al. (2019)
Fatores Cognitivos • Habilidade de uso al. (2016); Langer et al. (2019)
• Expectativa •Schaefer et al. (2016)
• Atitudes •Hancock et al. (2011); Schaefer et

al. (2016); Langer et al. (2019)
Fatores Emocionais •Schaefer et al. (2016); Langer et al.

• Satisfação (2019)
• Conforto al. (2016); Langer et al. (2019)
Idade (Age)
Os estudos relacionados a importância da idade de um indivíduo e sua relação com a Con-

fiança podem ser encontrados tanto na literatura de automação como em Interação Humano-
Robô. A maior parte dos estudos na automação estão limitados em duas áreas: automação
de veículos e no auxílio a tomada de decisão. Os resultados encontrados em alguns trabalhos
de automação sugerem que adultos mais velhos são mais propensos a confiar na automação
do que adultos mais jovens (DONMEZ et al., 2006; HO; WHEATLEY; SCIALFA, 2005; KIRCHER;
THORSLUND, 2009). Já o trabalho de Scopelliti, Giuliani e Fornara (2005a) mostra que jovens
adultos tendem a confiar mais em robô do que adultos mais velhos.
60
Schaefer (2013) comenta que as descobertas da relação entre idade e o desenvolvimento

da Confiança podem ser específicas do sistema ou da tarefa. Em relação aos SARs, a confiança
parece ser um elemento essencial para que os idosos e os robôs trabalhem de forma eficaz
(STUCK; ROGERS, 2018; VANDEMEULEBROUCKE; DZI; GASTMANS, 2021). De acordo com Feil-
Seifer e Matarić (2005) os robôs socialmente assistivos podem atender a várias populações de
usuários, variando em idade, deficiência e necessidade. Essas categorias não são mutuamente
exclusivas, então um robô pode ajudar os usuários pertencentes a uma ou mais das populações.
É possível observar que muitos trabalhos relacionados a SARs optam por contemplar uma
faixa etária exclusiva e modelar as características de interação entre o seu usuário e o robô e
muitas vezes o próprio projeto/design do robô a partir daí. Na literatura é possível observar o
crescente interesse na utilização de SARs com idosos (OBAYASHI; KODATE; MASUYAMA, 2018;
PINO et al., 2015; BEUSCHER et al., 2017; FASOLA; MATARIĆ, 2012), principalmente no auxílio
da saúde e companhia, na educação e em aplicações com crianças dentro do Espectro Autista
(AMUDHU, 2020; DICKSTEIN-FISCHER et al., 2018; ROBACZEWSKI et al., 2021).
Embora o fator de idade influencie a confiança, ao se modelar as características de um
SARs é importante ressaltar que esse fator precisa estar em conjunto com as necessidades
do usuário. Por exemplo, ao utilizar um SARs com crianças dentro do espectro autista, é
importante promover a familiaridade da criança com os aspectos de cinemática e sons do
robô para influenciar positivamente a confiança (BOCCANFUSO et al., 2017). Boccanfuso et al.
(2017) também ressaltam que a utilização de múltiplas modalidades de interação (manipulação
manual do robô, teleoperação e jogos autônomos de imitação e troca de turnos) pode gerar
confiança e facilitar a curiosidade e o engajamento.
Os elementos associados ao fator idade podem ser modelados tanto na fase inicial de
design dos robôs (isso pode restringi o uso) ou nas configurações de seu comportamento e
mecanismos de interação. Estabelecer uma população de usuário e modelar o robô de acordo
com o propósito específico aumenta a propensão de Confiança do usuário.
Personalidade (Personality)
A relação entre os traços de personalidade do usuário humano e o conceito de Confiança

aparecem em vários trabalhos relacionados a Interação Humano-Robô e Automação (HARING;
MATSUMOTO; WATANABE, 2013; SALEM et al., 2015b; ROSSI et al., 2018; ALARCON et al., 2018;
MERRITT; ILGEN, 2008; ABBASS; SCHOLZ; REID, 2018; SARTORATO; PRZYBYLOWSKI; SARKO,
61
2017). Esse fator foi considerado como uma influência forte na aceitação dos robôs pelas
pessoas e vital na compreensão da qualidade da HRI (GAUDIELLO et al., 2016; ROBERT et al.,
2020).
Entre os vários modelos de personalidade que aparecem na literatura, os cinco grandes tra-
ços de personalidade (Big Five) (JOHN, 1990) são os mais amplamente usados (SORRENTINO
et al., 2021). Esses traços são divididos em: Abertura à Experiência (Openness to Experience),
Conscienciosidade (Conscientiouness), Extroversão (Extraversion), Agradabilidade (Agreeable-
ness) e Neuroticismo (Neuroticism). Existe uma relação entre esses traços de personalidade e
o desenvolvimento da Confiança em sistemas robóticos (MCBRIDE; MORGAN, 2010). Segundo
Robert et al. (2020), umas das formas mais usadas para mensurar o Big Five é através da
utilização do Inventário de Personalidade de Dez Itens (Ten Item Personality Inventory - TIPI)
(GOSLING; RENTFROW; JR, 2003).
Boa parte dos estudos de HRI investigam a extroversão/introversão dos indivíduos e muitos
deles associam que os indivíduos que são mais extrovertidos tendem a ser mais sociais e
deveriam estar mais dispostos a interagir com robôs e adotar um nível maior de confiança
(ROBERT et al., 2020). No trabalho de Sorrentino et al. (2021) é sugerido que dependendo
do domínio / tarefa, traços diferentes podem ter uma influência diferente. Nas características
avaliadas em seu estudo, a Abertura à Experiência, Agradabilidade e Neuroticismo foram
correlacionados à percepção do robô, enquanto a abertura para a experiência foi o único traço
relacionado à usabilidade da tecnologia (ou seja, a predisposição para usá-la). Da mesma
forma, traços de Extroversão e Neuroticismo influenciam o tempo de interação total com o
robô.
As preferências das pessoas pela aparência e comportamento do robô podem estar relacio-
nadas aos seus traços de personalidade. Indivíduos mais introvertidos tendem a preferir robôs
de aparência um pouco mais mecânica e tem preferência por uma distância maior de aborda-
gem do robô, enquanto indivíduos extrovertidos preferem robôs mais humanoides e abordagem
mais próxima (WALTERS et al., 2009).
O trabalho de Feil-Seifer e Matarić (2008) relata a importância de avaliar a personalidade
do participante com um questionário e usar os resultados para ajustar os modos de interação
programados no robô, o que ajuda a ajustar a personalidade do usuário ao do robô. Os traços
de personalidade do usuário e a correspondência entre a personalidade do usuário e o estilo
do robô é outra característica que pode facilitar o engajamento humano-robô.
Uma correspondência entre a personalidade do usuário e "personalidade"do robô está as-
62
sociado ao aumento do tempo gasto com o robô (RABBITT; KAZDIN; SCASSELLATI, 2015).
Por exemplo, no trabalho de Matarić et al. (2009), eles descobriram que a adaptação da per-
sonalidade é eficaz para melhorar o desempenho do usuário em tarefas de reabilitação. Em
Papadopoulos et al. (2020), os autores apontam a importância da personalização da interação
na aprendizagem para projetar estratégias de motivação personalizadas adaptadas a diferentes
tipos de pessoas principalmente na interação entre criança-robô em SARs na educação. Os
traços de personalidade estão associados a aceitação dos SARs, sua confiança, personalização
e qualidade das interações. Esses traços influenciam diretamente o comportamento dos SARs
(ROSSI et al., 2018; LANGER et al., 2019; SORRENTINO et al., 2021).
Propensão de confiança (Trust Propensity)
A propensão a confiar ou também conhecida como confiança disposicional, geralmente

descreve a tendência generalizada de um indivíduo para confiar nos outros, independentemente
de quem seja a outra pessoa (MAYER; DAVIS; SCHOORMAN, 1995). Ela baseia-se na propensão
do trustor 6 a confiar e a confiabilidade inicial da contraparte, ou seja o conhecimento prévio de
que o trustee é confiável. Porém, quando a interação progride e os relacionamentos evoluem,
essa propensão muda em direção à confiança histórica, que não é mais derivada exclusivamente
do conhecimento prévio, mas cada vez mais da própria interação (MERRITT; ILGEN, 2008).
Essa propensão é considerada estável ao longo da vida do indivíduo e é um traço crucial
que influencia relações e interações (SALEM; DAUTENHAHN, 2015). Esse fator pode afetar o de-
senvolvimento da confiança na Interação Humano-Robô (OLESON et al., 2011) e também pode
impactar diretamente a confiança na interação com a Automação (MERRITT et al., 2013; MER-
RITT; ILGEN, 2008). A propensão à confiança na tecnologia difere da propensão de confiança
em pessoas (MADHAVAN; WIEGMANN, 2004). Dentro da literatura tanto de automação quanto
de robótica, os trabalhos empíricos relacionados a esse conceito ainda são muito limitados
(LEWIS; SYCARA; WALKER, 2018).
Na automação, o trabalho de Abbass, Scholz e Reid (2018) estabelece que um operador
tem alta propensão a confiar na automação em geral, mas diante de um sistema automatizado
específico, sua confiança pode ser muito baixa. Schaefer (2013) esclarece que os antecedentes
que impactam a propensão a confiança na interação humano-robô, incluem características
demográficas (ex. idade, traços de personalidade) e normas sociais e culturais. Além disso, a
6
O indivíduo que confia
63
autora considera os traços de personalidade como possíveis de ser uma das mais importantes
características para explicar a variação na propensão de confiar em robôs.
Essa propensão foi associada com mais enfase a três dos cinco grandes traços de personali-
dade (Big Five): agradabilidade, neuroticismo e abertura à experiência (ALARCON et al., 2018).
A escala mais comum para avaliar esse fator é a Escala de Confiança Interpessoal (Interper-
sonal Trust Scale - ITS) (ROTTER, 1967). Porém, essa escala deve ser aplicada em conjunto
com alguma outra métrica de confiança (YAGODA; GILLAN, 2012). Outros antecedentes cor-
relacionados fortemente com a propensão, é a experiência prévia do usuário e a aparência do
trustee 7 (LAZÁNYI; HAJDU, 2017; ADAMIK et al., 2021).
A propensão a confiar na tecnologia reflete a soma das experiências de aprendizagem com
a tecnologia automatizada e determina consideravelmente as expectativas com as quais um
indivíduo entra na familiarização com um sistema recém-introduzido (MILLER et al., 2021).
Alguns indivíduos com maior propensão a confiar, ao interagirem com máquinas que possuem
um bom funcionamento, tem um incremento maior na confiança geral em relação à máquina.
Por outro lado, esses mesmos indivíduos também correm o risco de reagir mais negativamente
a um mau funcionamento do que indivíduos com menor propensão a confiar (MERRITT; ILGEN,
2008). Para evitar que o mau funcionamento do robô possa causar uma perda de confiança
potencialmente maior, a estratégia considerada no trabalho de Chen et al. (2018) é a de
que um robô que é inicialmente considerado como altamente confiável, deve executar tarefas
difíceis primeiro, enquanto um robô, que obtém uma baixa confiança inicial, deve primeiro
fazer tarefas mais simples para construir a confiança.
As expectativas do usuário em relação às capacidades do robô influenciam a propensão
de confiança. Como os usuários formam certas expectativas com base na aparência física
do robô, é possível que uma certa forma, como a humanoide, possa definir expectativas do
usuário muito altas, o que pode levar a uma perda de confiança se o robô não puder funcionar
adequadamente (ADAMIK et al., 2021). Langer et al. (2019) relacionam a propensão a confiança
como um dos conceitos que afetam a confiança no uso de Robôs Socialmente Assistivos no
domínio de reabilitação.
7
O indivíduo em quem a confiança é depositada
64
3.3.1.2 Estado (State)
Os estados psicológicos/físico humano podem impactar diretamente a percepção de ha-

bilidade do usuário ao utilizar um robô (HANCOCK; WARM, 2003; PARASURAMAN; COSENZO;
VISSER, 2009). Na área de interação humano-automação os estados humanos dinâmicos, como
o controle da atenção, fadiga e o estresse são tópicos bem pesquisados (FINOMORE et al.,
2009; NEUBAUER et al., 2012; CHEN; TERRENCE, 2009). O trabalho de Schaefer (2013) aponta
os estados humanos como pertinentes no estudo da interação humano-robô. Porém ainda é
necessário estudos empíricos adicionais nessas áreas para compreender melhor sua ligação com
a confiança (SCHAEFER et al., 2014). A seguir apresentamos em detalhe os 3 estados humanos
que consideramos relevantes para esta dissertação.
Controle da atenção (Attentional Control)
O controle da atenção pode aparecer na literatura de Interação Humano-Robô como concei-

tos relacionados a capacidade de atenção e engajamento (attentional capacity, engagement).
Alguns autores definem o controle atencional como “a capacidade de se concentrar e mudar a
atenção de maneira flexível” (CHEN; BARNES, 2012; DERRYBERRY; REED, 2002). Na automa-
ção, pesquisas sugerem que operadores com diferentes níveis de controle de atenção podem
preferir níveis distintos de automação (THROPP, 2006). Em Schaefer et al. (2014) é relatado
que participantes com menor controle atencional tendem a depender mais da automação,
mesmo quando a confiabilidade desses sistemas é baixa.
A atenção do usuário pode depender de outros fatores como estresse, fadiga, motivação e
tédio (HOFF; BASHIR, 2015). No contexto da automação, a capacidade de controlar a atenção
pode ajudar os indivíduos a perceber erros e se ajustar a eles, além de reconhecer quando
o sistema está funcionando conforme o esperado. Como a confiança na automação é par-
cialmente dependente do desempenho percebido do sistema (LEE; SEE, 2004), aqueles com
maiores habilidades de capacidade de atenção podem ser melhores em calibrar com precisão
a confiança baseada em histórico. Já aqueles com menor controle da atenção exibem atitudes
mais negativas em relação aos robôs. O controle de atenção está relacionado às atitudes em
relação aos sistemas autônomos e também está correlacionado com a propensão à confiança
e atitudes em relação aos robôs (TEXTOR; PAK, 2021).
As pessoas direcionam sua atenção para o robô mais frequentemente em interações onde
65
os gestos estão presentes, ou seja as pessoas acham essas interações mais apropriadas do
que quando os gestos estão ausentes. Os autores de Sidner et al. (2005) acreditam que à
medida que as habilidades gestuais de engajamento dos robôs se tornarem mais sofisticadas,
a interação humano-robô se tornará mais suave e será percebida como mais confiável. A
utilização de declarações verbais, gestos de olhar e movimentos de cabeça dos robôs podem
ajudar a direcionar a atenção do usuário (SIDNER et al., 2005). Scassellati, Admoni e Matarić
(2012) relatam efeitos encorajadores como o aumento do engajamento, aumento dos níveis de
atenção e novos comportamentos sociais (atenção conjunta e imitação) quando as crianças
interagem com robôs.
A cultura e tarefa também tem um impacto significativo na atenção/engajamento do
usuário (LI; RAU; LI, 2010). Entretanto, o aumento significativo na resposta e engajamento
não leva necessariamente a uma maior confiança (CHEN; TERRENCE, 2009; LI; RAU; LI, 2010).
Ambientes de tarefas específicos envolvendo colaborações humano-robô podem ter um impacto
significativo nas associações entre diferenças individuais nas funções de atenção e confiança
nos robôs (CHOI; SWANSON, 2021). Uma possível estratégia para lidar com o fator de controle
da atenção é estudar a população de usuários e modelar suas caraterísticas e interesses nas
interações dos SARs (comunicação, comportamento, feedback e etc) (ALNAJJAR et al., 2021).
Fadiga (Fatigue)
O conceito de fadiga está associado a uma redução da capacidade e desejo de reagir carac-
terizada por cansaço e aversão à continuação do trabalho direcionado a objetivos (HANCOCK;
DESMOND; MATTHEWS, 2012). A fadiga pode também estar relacionada a realização de tarefas
repetitivas e sobrecarga de informações (MURPHY; ROGERS, 1996). Potencialmente, a fadiga
influencia a decisão de usar a automação, de modo que o uso da automação está dinamica-
mente relacionado aos estados de fadiga e estresse (NEUBAUER et al., 2012). Pode-se considerar
que o desempenho humano na realização de tarefas físicas está diretamente relacionado ao
seu nível de fadiga muscular.
O desempenho do trabalhador humano influencia sua confiança no robô. Por exemplo,
devido ao cansaço físico e/ou mental resultante do trabalho contínuo durante um dia, o
trabalhador humano pode tender a confiar mais na automação e, assim, aumentar sua confiança
no robô (SADRFARIDPOUR, 2018). A fadiga mental (ou cognitiva) pode ser associada a um
estado psicobiológico que geralmente é causado por uma tarefa cognitiva exigente e prolongada
66
e é caracterizada por indicadores psicológicos e fisiológicos (MOULOUA; HANCOCK, 2019). Do

ponto de vista psicológico, a fadiga mental é caracterizada como uma sensação de letargia
mental ou esgotamento (MARCORA; STAIANO; MANNING, 2009). Os indivíduos mentalmente
fatigados geralmente relatam uma carga de trabalho maior após a conclusão de uma tarefa
cognitiva intensa (HEAD et al., 2017; HEAD et al., 2016).
Do ponto de vista fisiológico, a fadiga mental é caracterizada por alterações na variabilidade
da frequência cardíaca e alterações na oxigenação cerebral no córtex pré-frontal (MOULOUA;
HANCOCK, 2019). A diminuição do envolvimento com a tarefa é uma marca de fadiga, expressa
como cansaço, perda de motivação e concentração prejudicada (NEUBAUER et al., 2012). A
fadiga cognitiva também pode afetar a percepção da dificuldade da tarefa, resultando em mu-
danças comportamentais que podem afetar o desempenho do sistema (MOULOUA; HANCOCK,
2019; RAJAVENKATANARAYANAN et al., 2019). Em particular pode reduzir a eficiência com que
o humano conclui a tarefa e induzir mais erros humanos (MURATA, 2000). A aplicação de
pequenas pausas para descanso podem proporcionar algum alívio da fadiga (CALDWELL et al.,
2009; TUCKER, 2003).
No trabalho de Wohleber et al. (2016) foi constatado que os participantes tendem ao
desuso da automação à medida que a fadiga aumenta. Langer et al. (2019) aponta que devido
a fadiga ou motivação reduzida dos pacientes, o desempenho deles durante as sessões de
fisioterapia pode variar consideravelmente. Portanto, o grau em que um SARs é capaz de
sintonizar a condição emocional, psicológica e física do paciente influenciará o sucesso do
tratamento e interação (KELLMEYER et al., 2018) e consequentemente a confiança.
A Robótica Socialmente Assistiva demonstrou ser uma ferramenta importante para auxi-
liar os pacientes na reabilitação física. Seu uso em aplicações como reabilitação cardíaca faz
com que seja necessária monitorar a fadiga durante a terapia para garantir a segurança e a
recuperação eficaz. O SARs é usado para fornecer feedback sobre o estado do paciente e
desempenho aos usuários e profissionais de saúde. Em geral, os pacientes são monitorados por
meio de sensores (AGUIRRE et al., 2019).
Estresse (Stress)
O estresse pode ser considerado segundo Hancock (1989) como uma força que diminui a
capacidade de desempenho. Esse fator é uma variável imprevisível, podendo levar à degradação
ou falta de confiança (MATTHEWS et al., 2016; COSENZO et al., 2006). Schaefer e Scribner
67
(2015) identificaram uma relação significativa entre estresse e confiança. Portanto, este fator
está presente nas taxonomias de Schaefer (2013) e Schaefer et al. (2016). Contudo, a grande
maioria dos trabalhos associados ao estresse investigam sua relação com a automação e muitos
destes trabalhos apenas relacionam esse fator à confiança de forma superficial.
O estresse induzido pela atividade é conhecido por resultar em oscilações de humor e levar
a distúrbios na motivação (por exemplo, perda de interesse da tarefa) e cognição (por exemplo,
levar a preocupação) (MATTHEWS et al., 2006). O estresse psicológico é frequentemente des-
crito como um estado de tensão e pressão mental ou emocional. Nem todas as pessoas reagem
da mesma maneira a estímulos semelhantes, por isso é importante considerar as diferenças in-
dividuais de cognição e motivação como um fator importante na avaliação de situações ou
estímulos externos (LAZARUS, 1993; KOH et al., 2001). A maior parte dos trabalhos recentes
acreditam que uma pessoa experimenta o estresse quando ela sente que os recursos para lidar
com uma dada situação não são o suficiente (GOYAL et al., 2016).
Por ser um fator interativo, o estresse integra estímulos dados pela exigência da tarefa,
respostas dos operadores e processos de percepção e avaliação da situação (BIROS; DALY;
GUNSCH, 2004). O estresse é fortemente influenciado pelos fatores do ambiente e pode atra-
palhar a coordenação dos papéis da equipe, coesão, comunicação e desempenho (DRISKELL;
SALAS; DRISKELL, 2018). O aumento da carga de trabalho, conforto com a utilização da
automação e a disposição a confiar (Propensão de confiança) na tecnologia também estão
relacionados ao estresse (CHOI; SWANSON, 2021; REIMER; MEHLER; COUGHLIN, 2016).
Os seres humanos encontram estresse psicológico e fisiológico diariamente e usam mecanis-
mos para gerenciar os níveis de estresse na tentativa de obter um desempenho ideal (LAZARUS,
1990). Para algumas populações de usuários, o aumento do nível de estresse pode ser um risco
à saúde (COOPER; MARSHALL, 2013). De fato, o estresse em si é um fator de risco para aqueles
com arritmia ou hipertensão, bem como aqueles com transtornos de ansiedade. Os autores de
Johnson et al. (2014a) afirmam que o estresse é um fator comum a usuários idosos e que os
SARs podem ajudar a reduzir o nível de estresse desses usuários. É importante controlar os
níveis de estresse, pois o estresse agudo ocasional tem demonstrado evoluir para transtornos
ansiosos e depressivos, destacando-se como fator significativo para a saúde psicológica a longo
prazo (ULIASZEK et al., 2012).
O trabalho de Thill et al. (2012) estabeleceu uma série de vantagens ao usar robôs sociais
com crianças dentro do Espectro Autista. A principal vantagem é a de que os robôs podem
ser aplicados de forma controlada apresentando apenas informações relevantes e dessa forma
68
minimizando o risco de criar situações estressantes e complexas. Sabemos que os robôs são
melhores em repetição infinita do que as pessoas, e variações podem ser feitas de forma
consciente e de maneira segura.
As formas de tentar mitigar o fator de estresse são diversas, sendo uma delas a utilização
de software para reconhecimento de expressão facial ou análise de voz para identificar estresse,
o que pode dar suporte à interpretação da máquina sobre o funcionamento humano. O robô
pode se adaptar para compensar a deficiência humana monitorando dados de sensores para
detectar carga de trabalho excessiva, estresse ou fadiga (CHOI; SWANSON, 2021). É importante
lembrar que os fatores estresse e a fadiga podem se reforçar mutuamente (SAXBY et al., 2013).
3.3.1.3 Fatores Cognitivos (Cognitive Factors)
A cognição está ligada ao estudo dos processos mentais que influenciam o comportamento
de cada indivíduo e seu desenvolvimento cognitivo (intelectual). A cognição está relacionada ao
acúmulo de informações que adquirimos através da aprendizagem ou experiência. A confiança
é baseada na cognição quando os indivíduos escolhem em quem vão confiar, em que aspectos
e em que circunstâncias, e baseiam esta decisão no que eles acreditam serem boas razões
(LEWIS; WEIGERT, 1985).
Segundo Jr, Hansen e Pearson (2004) o processo cognitivo não se desenvolve instantane-
amente, mas somente depois que um indivíduo é capaz de processar e avaliar cognitivamente
as evidências disponíveis. Luhmann (1979) acredita que o conhecimento disponível e a fami-
liaridade são necessários para decisões de confiança. Em um processo cognitivo uma pessoa
desenvolve “boas razões” para que outros sejam confiáveis como, por exemplo, as expectativas
mantidas pelo trustor 8 com base na experiência passada e no conhecimento acumulado que o
trustee 9
haja de acordo como deveria (PUNYATOYA, 2018).
Os fatores cognitivos abordados nessa dissertação dizem respeito a : Experiências Pré-
vias, Habilidade de uso e Expectativa, esses fatores são os mais pesquisados no domínio
da confiança interpessoal, mas também se aplicam segundo Ashleigh e Stanton (2001) ao
domínio da tecnologia.
8
O indivíduo que confia
9
O indivíduo em quem a confiança é depositada
69
Experiências Prévias (Prior Experiences)
Sanders (2016) define experiências prévias10 como o nível de exposição anterior a al-
guém ou alguma coisa. O preconceito relacionado a determinada tecnologia pode ser moldado
pela própria experiência pessoal do indivíduo, mas também pode ser baseado e moldado pela
cultura popular, representações de mídia e ficção científica (HANCOCK; BILLINGS; SCHAEFER,
2011; SCHAEFER; BILLINGS; HANCOCK, 2012). Essas influências não experiênciais podem levar
a percepções errôneas sobre a capacidade dos robôs e suas motivações (SANDERS et al., 2017).
Estudos demonstram que as experiências prévias leva a maiores níveis de confiança e
atitudes mais positivas em relação aos robôs (SANDERS et al., 2017), como também, têm um
impacto direto no desenvolvimento da confiança ao longo do tempo (MERRITT; ILGEN, 2008;
RAJAONAH; ANCEAUX; VIENNE, 2006; SULLIVAN; TSIMHONI; BOGARD, 2008). Além do mais,
experiências anteriores do usuário podem influenciar seu conforto com um sistema robótico;
especificamente, indivíduos mais experientes tendem a se sentir mais à vontade com robôs
(TAKAYAMA; PANTOFARU, 2009). Coeckelbergh et al. (2016) relacionam que usuários com
mais experiência com computadores, perceberam o robô como uma tecnologia mais fácil de
usar. As experiências prévias não positivas afetam negativamente a confiança (HOFF; BASHIR,
2015).
Alguns autores relatam que um indivíduo já familiarizado com tecnologia aceitará mais
prontamente novos dispositivos porque eles podem confiar em suas experiências anteriores
(SUN; ZHANG, 2006; FISHBEIN; AJZEN, 1977). No entanto, existe uma diferença nessa aceitação
da tecnologia relacionada a pessoas mais jovens e pessoas mais velhas, porque o background
delas com relação a educação e contato com a tecnologia são diferentes (FLANDORFER, 2012).
Por isso, é importante que os profissionais que projetam robôs levem em consideração as
características da população de usuários que irá interagir com os sistemas robóticos para
adaptar a forma que o sistema é apresentado e até modelado (SANDERS et al., 2017).
Sanders et al. (2017) argumentam que talvez as pessoas que acumulam experiência estejam
predispostas a serem favoráveis aos robôs a priori. Isso se torna uma questão de diferenças
individuais sobre o que faz com que alguns indivíduos adotem a tecnologia em comparação
com outros que são antagônicos a essas tecnologias. Portanto a dimensão da experiência pode
ser causa, efeito ou ambos em tais relacionamentos interativos.
10
O conceito de experiências prévias, também pode ser encontrado na literatura como experiências passadas
(past experiences) e experiências anteriores (previous experiences).
70
O trabalho de Langer et al. (2019) aponta o fator de experiências prévias como um dos
principais fatores que influenciam o desenvolvimento de confiança em SARs. O questionário de
Perfil de Experiência em Tecnologia (Technology Experience Profile - TEP) (BARG-WALKOW;
MITZNER; ROGERS, 2014), que avalia o uso e a experiência com vários tipos de tecnologias
durante o período do último ano do usuário é apontado por Langer et al. (2019) como uma
forma de avaliar a experiência prévia em tecnologia para uso em SARs.
Habilidade de uso (Ability to use)
Um dos fatores que afeta a relação de confiança baseada em cognição é a habilidade

percebida do operador de interagir com o robô (DRURY; RIEK; RACKLIFFE, 2006). A habilidade
de uso é considerada por Mayer, Davis e Schoorman (1995) como um grupo de competências
e características que permitem que uma pessoa tenha influência em algum domínio específico.
Schaefer et al. (2016) acreditam que existe uma influência da expertise, eficácia (efficacy )
e carga de trabalho (workload) na habilidade de uso da automação pelo indivíduo. A eficácia
ou auto-eficácia (self-efficacy ), como conhecida em alguns trabalhos, está relacionada com
a habilidade de um indivíduo em realizar uma determinada tarefa com sucesso e isso não
afeta apenas se o indivíduo usará a automação, mas também como ele perceberá a utilidade
e facilidade de uso (BANDURA, 1982; BANDURA; FREEMAN; LIGHTSEY, 1999; IGBARIA; IIVARI,
1995). Alguns autores associam a degradação de confiança em sistemas automatizados ao
aumento na carga de trabalho mental (WANG; JAMIESON; HOLLANDS, 2011).
A carga de trabalho mental está ligada à expertise e a experiência com automação. No geral
o aumento da expertise com um sistema leva a um aumento no desenvolvimento da confiança
(RAJAONAH; ANCEAUX; VIENNE, 2006). Yagoda e Gillan (2012) conceituam expertise como
a habilidade especializada ou conhecimento profundo em um domínio específico. Como tal,
o aumento da experiência com um sistema pode melhorar o desenvolvimento da confiança
(RAJAONAH; ANCEAUX; VIENNE, 2006).
A auto-eficácia no uso de robôs refere-se à crença de uma pessoa em sua própria capacidade
de usar robôs (TURJA; RANTANEN; OKSANEN, 2019). A auto-eficácia relacionada ao uso dos
robôs de serviço11 , determina a aceitação deles pelos usuários (CHI et al., 2021). Latikka, Turja
e Oksanen (2019) descobriram que os funcionários que têm um nível mais alto de auto-eficácia
11
São robôs que realizam tarefas úteis para os seres humanos, excluindo a participação em automações
industriais.
71
no uso de robôs apresentam maior aceitação funcional e social em relação aos robôs de serviço.
De acordo com a Teoria Cognitiva Social, a auto-eficácia leva a uma percepção positiva de
um resultado futuro (BANDURA; FREEMAN; LIGHTSEY, 1999).
Alta autoeficácia no uso de robôs acarreta mais propensão a acreditar que a interação com
os robôs proporcionará resultados de serviço positivos. Portanto, eles são mais propensos a
confiar na interação (CHOI; SWANSON, 2021). A autoeficácia é gerada por meio do acúmulo
de conhecimento e da experiência existente (FAN et al., 2020). Assim, usuários que têm mais
conhecimento e experiência com tecnologia são mais propensos a desenvolver confiança nos
dispositivos alimentados por tecnologia. A auto-eficácia afeta positivamente a confiança inicial
(ZHOU, 2012) e é um indicador significativo da propensão a confiar em robôs (CHI et al., 2021).
Os autores de Drury, Riek e Rackliffe (2006) acreditam que após a interação com um robô,
alguns antecedentes adicionais de confiança como confiabilidade (reliability ), erros (errors) e
feedback podem afetar a percepção do operador de como usar ou interagir com o robô.
Expectativa (Expectancy)
Os operadores humanos desenvolvem modelos mentais (MM) ou expectativas de como

a automação deve se comportar antes de interagir com a mesma (SCHAEFER et al., 2014).
Esse fator incluem alguns antecedentes de confiança como: utilidade percebida (SPAIN; BLISS,
2008), expectativas na automação ou em sua reputação (VRIES; MIDDEN, 2008) bem como os
benefícios percebidos dessa automação (LEE; KIM; KIM, 2007). O tipo de tarefa e o ambiente
físico também podem fornecer pistas de expectativa (SCHAEFER, 2013).
Keil, Beranek e Konsynski (1995) descobriram que a utilidade percebida (ex. número de
erros antecipados) de um sistema automatizado é muitas vezes ditada por uma função da
tarefa ou o ajuste da ferramenta. O benefício percebido da automação pode influenciar se a
automação será confiável ou não (LEE; KIM; KIM, 2007; KIM; PARK; SUNDAR, 2013). Se essas
expectativas forem altas, o operador humano pode se tornar excessivamente dependente da
automação (MAYER et al., 2006), o que pode levar à desconfiança e uso indevido do sistema. A
reputação do sistema pode afetar as expectativas do operador. Em um experimento envolvendo
um sistema de automação de auxílio de planejamento, Vries e Midden (2008) descobriram que
a confiança é um pouco maior quando a automação tem uma reputação positiva.
Segundo Horstmann e Krämer (2020) as expectativas determinam como um robô social
é percebido. Além disso, a forma como o robô é percebido afetará, em última análise, se
72
essa tecnologia será aceita e usada no futuro (DAVIS; BAGOZZI; WARSHAW, 2014). Horstmann
e Krämer (2020) aponta que as pessoas esperam que os robôs sejam eficientes, precisos,
confiáveis, racionais e perfeccionistas e que devido à falta de experiências pessoais com esse
tipo de robô, essas expectativas são muitas vezes baseadas principalmente em informações da
mídia. Portanto, isso leva a altas expectativas em relação às habilidades dos robôs sociais.
Contudo, se as expectativas não são atendidas na interação humano-robô levará à decepção e
à redução da confiança nos robôs (KWON; JUNG; KNEPPER, 2016; KOMATSU; YAMADA, 2011).
Diante disso, é importante que os robôs sociais atendam às expectativas de seus usuários
para evitar efeitos negativos na aceitação e vontade de usar essa nova tecnologia (DAVIS;
BAGOZZI; WARSHAW, 2014; KWON; JUNG; KNEPPER, 2016; BURGOON; HALE, 1988). Para uma
aplicação bem-sucedida, as violações de expectativa negativa devem ser evitadas, através do
projeto e retratando robôs sociais de maneiras que não surjam expectativas de habilidades
mais altas do que as disponíveis (alto antropomorfismo gera alta expectativa). Além disso,
enquadrar um robô em uma luz favorável, ou seja, explicar do que o robô é capaz e os benefícios
de seu uso antes de uma interação, ajuda a obter uma percepção positiva do robô e facilitará
a aceitação dessa tecnologia (HORSTMANN; KRäMER, 2020).
3.3.1.4 Fatores Emocionais (Emotive Factors)
A confiança baseada no afeto (affect-based) é um estado baseado na emoção em que

o indivíduo faz atribuições sobre os motivos/emoção de um parceiro (MCALLISTER, 1995;
SCHAEFER, 2013). Da mesma forma que a propensão à confiar, a confiança baseada no afeto
também é importante nos estágios iniciais de um relacionamento (SCHAEFER, 2013). No estudo
de Yueh e Lin (2016) é avaliada a correlação entre fatores psicológicos de robôs de serviço. Em
particular os autores encontraram uma correlação positiva entre agradabilidade (likeability12 ) e
confiança. Schaefer et al. (2012) sustentam que a confiança baseada no afeto pode ser aplicada
à forma como o operador humano faz atribuições sobre a emoção em relação ao robô. Schaefer
et al. (2016) nomeia em seu modelo os fatores baseados no afeto como Fatores Emocionais
(Emotive Factors). Os fatores incluídos como estudos anteriores de confiança baseada em
afeto são: Atitudes, Satisfação e Conforto, que são descritos a seguir.
12
Diz respeito a impressões positivas, é um fenômeno muito complexo que envolve comportamentos, manei-
ras, inteligência percebida, contexto sociocultural semelhante, interesses e até mesmo atratividade física,
aceitabilidade e popularidade. Está mais associada a aparência, nível de antropomorfismo do robô e seu
comportamento (BARTNECK et al., 2009b).
73
Atitudes (Attitudes)
Por atitude, Gaudiello et al. (2016) entendem como sendo qualquer disposição mental
amadurecida através da experiência que possa impactar reações, sejam essas reações compor-
tamentais, verbais ou emocionais do indivíduo em relação à objetos e situações.
Segundo Schaefer et al. (2016), as atitudes em relação à automação influenciam a consci-
ência geral do comportamento do sistema. As atitudes e emoções positivas, como a felicidade,
influenciam a confiança, o gosto e a dependência de um sistema (e podem até levar a um ex-
cesso de confiança). Já as atitudes negativas podem ser influenciadas por erros ou dificuldades
de acesso às informações do sistema, que podem levar ao desuso da automação.
Alguns autores relacionam que diferente dos traços estáveis da personalidade, as atitudes
em relação aos robôs são mais incertas e podem variar de acordo com a cultura, familiaridade
e ao longo do tempo (KAPLAN, 2004; BARTNECK et al., 2007; SUNG; CHRISTENSEN; GRINTER,
2009; LI; RAU; LI, 2010). Portanto, ao se observar a atitude se torna possível prever o comporta-
mento de confiança real de um indivíduo em relação ao robô bem como a um comportamento
potencial (GAUDIELLO et al., 2016). Na pesquisa de HRI, as atitudes em relação aos robôs
são geralmente avaliadas através do uso de testes e questionários. Dentre os testes de avalia-
ção de atitudes mais comuns, destaca-se a Escala de Atitudes Negativas em relação a Robôs
(Negative Attitudes towards Robots Scale - NARS) proposto por (NOMURA; KANDA; SUZUKI,
2006).
A escala NARS foi concebida para abranger três tipos de atitudes negativas:
• (i) perante situações de interação com robôs ( ex., “Eu ficaria nervoso operando um
robô na frente de outras pessoas” ou "eu me sentiria relaxado conversando com robôs");
• (ii) para a influência social dos robôs (ex. “Estou preocupado que os robôs sejam uma
má influência sobre crianças”);
• (iii) em relação às emoções na interação com robôs (ex., “sinto-me confortável em

interagir com robôs que têm emoções” ou “eu me sentiria desconfortável se os robôs
realmente tivessem emoções”).
Cada uma das subescalas NARs (i,ii,iii) discutidas anteriormente inclui uma lista com
afirmações que o participante deve classificar numa escala (Likert) de 1 a 7, onde 1 representa
’discordo totalmente’ e 7 ’concordo totalmente’.
74
A segunda subescala do NARS relacionada à influência social é especialmente relevante

em relação à confiança no conhecimento social, pois as atitudes negativas podem determinar
a desconfiança dos usuários na capacidade de um robô em se adequar às estruturas sociais.
Portanto, pode-se correlacionar que quanto mais os usuários mostram atitudes negativas em
relação à influência social dos robôs, menos confiam nas decisões do robô em relação às
questões sociais (GAUDIELLO et al., 2016).
Alguns trabalhos relacionam as atitudes dos usuários à alguns fatores específicos como
a capacidade de atenção (TEXTOR; PAK, 2021, relacionam baixa capacidade à atitudes mais
negativas), experiências prévias (SANDERS et al., 2017, relacionam experiência anterior à ati-
tudes mais positivas) e personalidade (ROSSI et al., 2018, relacionam abertura à experiência a
atitudes mais positivas para com a tecnologia ). A forma e o comportamento estereotipado dos
robôs também podem afetar as atitudes que os humanos têm em relação a eles. Por exemplo,
Axelsson et al. (2021) relacionam esteriótipos racial ou de gênero à atitudes mais negativas.
Embora vários fatores influenciem a atitude dos usuários, o trabalho de Marchetti et al.
(2022) mostra que, em relação ao emprego de SARs em adultos, é a experiência e/ou neces-
sidade que acabam sendo decisivas em prol de uma atitude mais positiva e maior aceitação de
uso.
Satisfação (Satisfaction)
Schaefer et al. (2016) afirmam que a satisfação influencia a percepção humana do robô.
Essa satisfação é fomentada pela qualidade da informação e do serviço que a tecnologia
proporciona (LEE; KIM; KIM, 2007). Usualmente, à medida que a satisfação aumenta, também
aumenta a confiança (DONMEZ et al., 2006). A satisfação pode ser influenciada pela consciência
da situação, previsibilidade e confiabilidade (reliability ) do robô.
Uma característica de robôs sociais que pode melhorar a satisfação é a empatia. Tapus,
Matarić e Scassellati (2007) postularam que a empatia pode melhorar a satisfação do paciente
de terapia no contexto da interação paciente-terapeuta. Logo, projetar empatia nos Robôs
Socialmente Assistivos pode contribuir para melhorar a satisfação e aumentar a confiança.
A satisfação pode ser medida através de um questionário. O mais usado para medir o nível
de satisfação atribuído às tecnologias assistivas é o The Quebec User Evaluation of Satisfaction
with Assistive Technology (QUEST), que foi desenvolvido por Demers, Weiss-Lambrou e Ska
(2000). A métrica avalia algumas questões dentro do padrão Likert de 1 a 5, onde 1 é ’Nada
75
satisfeito’ e 5 é ’Muito satisfeito’. No trabalho de Silvera-Tawil e Roberts-Yates (2018), os

autores usaram uma versão modificada da escala de QUEST para avaliar a satisfação de uso
de Robôs Socialmente Assistivos para ajudar durante a terapia e educação de crianças com
deficiência intelectual e autismo. Eles chegaram à conclusão de que as características mais
importantes para a satisfação eram a eficácia, aparência e segurança (safety ).
Conforto (Comfort)
O nível de conforto do usuário durante a interação é importante (BARTNECK et al., 2009a).

O fato de um usuário se sentir confortável ou não com um robô pode influenciar sua percepção
e se confiam ou não no robô. O nível de conforto pode depender da familiaridade e proximi-
dade (NAKADA, 1997; BROEK; WESTERINK, 2009), similaridade de intenção (VERBERNE; HAM;
MIDDEN, 2012), ou mesmo do grau de controle que o robô tem sobre os níveis de controle,
tática ou estratégia da tarefa (WARD, 2000).
O sucesso da Interação Humano-Robô depende da aceitação humana da tecnologia (DA-
VIDS, 2002). Portanto, aumentar o conforto humano com um robô é de grande importância
(FONG; NOURBAKHSH; DAUTENHAHN, 2003; DUFFY, 2003; GROOM; NASS, 2007). O antropo-
morfismo e a personalidade do robô podem criar uma sensação de conforto, especialmente
quando a aparência e o comportamento são combinados com uma tarefa específica (GOETZ;
KIESLER; POWERS, 2003; DUFFY, 2003).
Alguns estudos mostraram que as experiências anteriores dos usuários podem influenciar
seu conforto com um sistema robótico; especificamente, indivíduos mais experientes tendem a
se sentir mais confortáveis com robôs (TAKAYAMA; PANTOFARU, 2009). Além disso, o nível de
conforto com um robô influencia a quantidade de confiança que se deposita nesse robô, de tal
forma que quanto mais confortável, maior é a confiança (SANDERS et al., 2011). Alguns tra-
balhos mostram que a quantidade de tempo interagindo com robôs parece promover reações
ainda mais positivas. Mesmo em períodos de tempo relativamente curtos (por exemplo, sema-
nas), os usuários que interagem repetidamente com um robô parecem ficar mais confortáveis
e mudam seu comportamento. Por exemplo, ter maior proximidade física com o robô é um
reflexo de um maior nível de conforto (KOAY et al., 2007). Por tanto, a proximidade física do
usuário com o robô também está relacionado ao conforto. No trabalho de (KOAY et al., 2006),
os autores relatam que os indivíduos se sentiram mais confortáveis durante uma interação
com um robô a uma distância intermediária (1–3m) em vez de distâncias próximas (< 1m) ou
76
distantes (> 3m). Quando o usuário já se sente confortável o suficiente para interagir direto
com o robô, outras características podem aumentar mais ainda o conforto. As sensações de
toque por exemplo, são especialmente importantes para a interação física entre homem-robô.
As sensações táteis suaves sugerem conforto e familiaridade (AXELSSON et al., 2021).
Tendo concluído a descrição dos 12 fatores que fazem parte da Categoria geral do Fator
Humano, a seguir passamos a descrever a Categoria geral Robô. Conforme pode ser visto na
Figura 12 esta categoria Robô divide-se em 2 subcategorias e 11 fatores.
3.3.2 Robô
A interação pressupõe que deve haver um tipo de ação entre duas ou mais entidades.
Sendo assim, no estudo de como se dá a Confiança na Interação Humano-Robô, tanto o
fator Humano como o Robótico devem ser compreendidos a fundo. Em Schaefer et al. (2016)
embora os termos refiram-se a automação, como já explicado anteriormente, esses mesmos
conceitos podem ser utilizados na robótica. O trabalho de Schaefer et al. (2016) atualizou as
subcategorias dos fatores associados a automação/robô de Hancock et al. (2011) passando a
dividir seus conceitos em recursos e capacidade.
Nesta dissertação foram acrescentados o conceito de segurança (safety ) e privacidade, pois
mostraram-se importantes para confiança dentro do contexto de SARs (LANGER et al., 2019).
Os resultados dos trabalhos de Schaefer et al. (2014), Schaefer et al. (2016) forneceram
suporte adicional para a importância da comunicação no desenvolvimento da confiança. A
comunicação (communication) que antes estava relacionada ao fator ambiente foi alocada
ao fator relacionado ao robô e discutida em termos de modo de comunicação (recurso do
robô) e feedback (capacidade do robô). Como observado na Figura 12 a diferença entre o
modelo apresentado nessa dissertação e o de Schaefer et al. (2016) se dá por três elementos
(Segurança/Privacidade, Adaptabilidade e Proximidade). A inclusão da Segurança/Privacidade
como um elemento que contribui para a Confiança se dá através da perspectiva que o usuário
tem de que a segurança impacta a Confiança. Como exemplo temos que as preocupações com
a segurança levam à falta de confiança do usuário nos robôs usados em casa, especialmente
para adultos mais velhos (SCOPELLITI; GIULIANI; FORNARA, 2005a).
Na Tabela 4, é possível observar os conceitos que compõem o Fator Robô e sua relação
com as principais taxonomias discutidas na seção 3.2 e o trabalho de Langer et al. (2019).
77
Tabela 4 – Rastreamento dos conceitos do Fator Robô nas principais Taxonomias
Fator Robô Presente em:
• Modo de comunicação
•Schaefer (2013); Schaefer et al.
(2016)
• Aparência/Antropomorfismo •Hancock et al. (2011); Schaefer
ger et al. (2019)
• Nível de Automação •Hancock et al. (2011); Schaefer
Recursos (2013); Schaefer et al. (2016);
• Inteligência •Schaefer (2013); Schaefer et al.

(2016); Langer et al. (2019)
•Hancock et al. (2011); Schaefer
• Personalidade do robô (2013); Schaefer et al. (2016); Lan-
ger et al. (2019)
•Langer et al. (2019)
• Segurança/Privacidade
• Comportamento •Hancock et al. (2011); Schaefer

ger et al. (2019)
• Confiabilidade/Erros
ger et al. (2019)
Capacidade • Feedback
• Adaptabilidade •Hancock et al. (2011); Schaefer et
al. (2016)
• Proximidade •Hancock et al. (2011)
3.3.2.1 Recursos (Features)
Os recursos relacionados ao robô dizem respeito a questões de projeto/(design), que envol-

vem tanto a aparência física quanto as funcionalidades do robô. Esses recursos são importantes
para estabelecer a confiança com o usuário (HANCOCK et al., 2011). Essa subcategoria é res-
ponsável por agrupar os principais fatores que contribuem para a "primeira impressão do robô".
Os antecedentes de confiança baseado em recursos são: Modo de comunicação, Aparên-
cia/Antropomorfismo, Nível de Automação, Inteligência, Personalidade do robô e
Segurança/Privacidade.
78
Modo de comunicação (Mode of communication)
O modo de comunicação se refere ao processamento de informações por meio das moda-

lidades visual, auditiva ou tátil que a automação sinaliza (HANCOCK et al., 2013). O trabalho
de Sarter (2006) estudou as lacunas de pesquisa na área e enfatizou a necessidade de que os
parâmetros fossem projetados com cuidado para garantir sua consistência com a personalidade
do usuário e para maximizar a confiança.
De acordo com Hoff e Bashir (2015), dentro de um determinado modo de comunicação os
sistemas automatizados podem exibir uma ampla gama de “personalidades” distintas. Estes
traços atribuídos artificialmente podem influenciar a confiança dos operadores. Nass e Lee
(2001) enfatizam a necessidade de projetar cuidadosamente os vários parâmetros e caracterís-
ticas de interfaces de voz, como entonação ou faixa de frequência, para garantir a consistência
com a personalidade do usuário e o conteúdo de mensagens em um esforço para maximizar a
confiança do usuário e assim a utilização do sistema associado.
Segundo Hoff e Bashir (2015), aumentar a polidez do estilo de comunicação de um sistema
automatizado promove maior confiança. O trabalho de Parasuraman e Miller (2004) associou a
polidez a incutir a automação com boa etiqueta, o que significa um estilo de comunicação que
não interrompa o usuário e que seja "paciente", o que leva a maior confiança e desempenho.
Em seu trabalho Hoff e Bashir (2015) deixam claro que os pesquisadores devem considerar a
avaliação das tendências de como diversos indivíduos confiam em sistemas automatizados com
diferentes estilos de comunicação, graus de antropomorfismo e níveis de controle. Além disso,
os autores estabelecem que expandir esse tipo de pesquisa é crucial para auxiliar os projetistas
na construção de sistemas mais adaptáveis que possam alterar seu comportamento com base
nas preferências do usuário.
Alguns experimentos específicos sobre comunicação auditiva demonstraram que os ope-
radores tendem a confiar mais em sistemas com fala humana do que com fala sintética e
apresentaram desempenho aprimorado na condição de fala humana (STEDMON et al., 2007).
Os autores de Stedmon et al. (2007) também apontam que operadores tendem a confiar mais
em informações precisas e a existência de conflitos nas informações na automação podem levar
à desconfiança, por isso a precisão da comunicação é importante (SONG; KUCHAR, 2003). Em
Schaefer et al. (2014) é ressaltado que uma maior confiabilidade (reliability ) das informações
leva a maior confiança.
A comunicação em termos de precisão, feedback, dicas, modo e acesso à informação é
79
essencial para o desenvolvimento da confiança (SCHAEFER et al., 2014). Os autores Schaefer et

al. (2014) sugerem que há um grande efeito da comunicação no desenvolvimento da confiança.
Porém, segundo eles, precisam ser realizadas mais pesquisas para determinar a modalidade de
comunicação correta com base nas necessidades da tarefa e do ambiente físico.
O modo de comunicação pode ser do tipo verbal e não-verbal, isto se deve ao fato que
tanto a comunicação verbal quanto a não verbal são necessárias para estabelecer uma interação
envolvente (TAPUS; MATARIĆ; SCASSELLATI, 2007). O robô deve ser capaz de se comunicar com
o usuário por meio de canais verbais e não verbais. Por exemplo, enquanto o usuário estiver
falando, o robô deve parecer engajado ou desengajado na conversa e deve acenar em aprovação
ou desaprovação expressa. Para serem bons parceiros sociais, os robôs devem entender e usar as
estruturas de comunicação humana existentes. Grande parte da comunicação humana ocorre
de forma não verbal, por meio de olhar fixo (ARGYLE, 1972), gestos (MCNEILL, 1992) e outras
pistas.
Em tarefas difíceis envolvendo incerteza humana, o olhar do robô mostrou ter uma influên-
cia positiva na confiança no robô como colaborador (STANTON; STEVENS, 2014). No entanto,
é necessário ter cuidado ao projetar comportamentos de olhar do robô, pois eles podem ter o
potencial de introduzir influências negativas, como pressão social (STANTON; STEVENS, 2014).
O uso adequado do olhar fixo resultou em maior compreensão (BREAZEAL et al., 2005), utilidade
(SKANTZE; HJALMARSSON; OERTEL, 2013) e confiança (STANTON; STEVENS, 2014).
No trabalho de Kidd e Breazeal (2004) a utilização dos olhos do agente, acompanhado
de instruções verbais para interagir com os usuários resultou no robô sendo considerado mais
envolvente, credível e informativo, além de ser mais agradável como parceiro de interação.
Experimentos mostram que permitir que o robô emita comandos verbais é a forma mais eficaz
de comunicar objetivos, mantendo a confiança do usuário no robô (NIKOLAIDIS et al., 2018).
Existe uma forte relação entre a sincronia entre gestos, verbalização e movimento nas inte-
rações sociais humanas cotidianas (TAPUS; MATARIĆ; SCASSELLATI, 2007). O estado empático
do robô pode ser reforçado pela comunicação verbal apropriada; o robô pode expressar sua
compreensão por meio de um tom de voz empático e frases que correspondem adequada-
mente ao estado emocional do usuário e isso pode ajudar a construir a confiança. Portanto,
tanto a linguagem verbal quanto a linguagem corporal são necessárias como ferramentas de
Interação Humano-Robô para expressar empatia (TAPUS; MATARIĆ; SCASSELLATI, 2007). Na
robótica socialmente assistiva a comunicação verbal e não-verbal desempenham um papel
crucial, pois fornecem pistas sociais que fazem os robôs parecerem mais intuitivos e naturais
80
(TAPUS; MATARIĆ; SCASSELLATI, 2007).

Feil-Seifer e Mataric (2011) acreditam que se o SARs fala, alguns parâmetros são impor-
tantes para definir a natureza da interação. Por exemplo, se o robô tem uma voz sintética ou
gravada, masculina ou feminina, com sotaque ou não, bem como se contém emoção ou não.
Esses parâmetros de comunicação desempenham papéis importantes na eficácia do robô em
uma configuração de SARs. Além da fala e da linguagem, a expressão incorporada que consiste
em gestos, linguagem corporal e expressões faciais, compreende outra área complexa de es-
tudo na interação homem-máquina. Os parâmetros de projeto de um SARs tem consequências
importantes sobre o papel do robô e a interação humano-robô resultante.
Aparência/Antropomorfismo (Appearance/Anthropomorphism)
Segundo o dicionário, a aparência é o aspecto ou aquilo que se mostra superficialmente ou

à primeira vista (ex. características físicas). As pessoas reagem aos robôs de forma diferente
com base em sua aparência. Já o antropomorfismo é a atribuição de uma forma, características
ou comportamento humano (ex. comunicação verbal e não-verbal, comportamento social) a
coisas que não são humanas, como os robôs (BARTNECK et al., 2009a).
O trabalho de Schaefer et al. (2016) estabelece que níveis mais altos de antropomorfismo
está ligado ao desenvolvimento de confiança, enquanto alguns autores relacionaram esse fator
a questão de facilidade de uso da automação (NASS; LEE, 2001; LI; YEH, 2010; PAK et al., 2012).
No entanto, o mais importante é que a forma física deve atender às expectativas do usuário
quanto a sua capacidade funcional (GOETZ; KIESLER; POWERS, 2003; SCHAEFER, 2013), sendo
adequadamente compatível com as capacidades cognitivas e interativas do robô. No entanto,
quando a aparência e as capacidades são incompatíveis, as expectativas do usuário são violadas,
o que pode resultar em níveis mais baixos de confiança (DUFFY, 2003).
Quanto mais humano o robô parecer, maiores serão as expectativas das pessoas que inte-
ragem com ele. Babel et al. (2021) associam a aparência mais humana e o antropomorfismo
como características do robô que estão relacionado à confiança. Na robótica socialmente as-
sistiva, a credibilidade desempenha um papel mais importante do que o realismo. Assim, uma
aparência infantil ou antropomórfica, mas não altamente realista, é tipicamente mais ade-
quada para tarefas assistivas (TAPUS; MATARIĆ; SCASSELLATI, 2007). A forma e a estrutura
de um robô social é importante, porque ajuda a estabelecer as expectativas sociais (FONG;
NOURBAKHSH; DAUTENHAHN, 2003). O antropomorfismo desempenha um papel essencial no
81
projeto de robôs sociais para facilitar a interação social e aumentar a aceitação. No entanto, o
desenho antropomórfico não deve ser um objetivo em si, mas adaptado à tarefa e ao contexto
(GOETZ; KIESLER; POWERS, 2003; FINK, 2012).
A aparência afeta a simpatia geral (likability ) (LI; YEH, 2010) e a inteligência percebida
(BARTNECK et al., 2009a). Os recursos de componentes, como recursos de superfície (por
exemplo, bordas chanfradas), número de apêndices (partes que compõe a forma física) (SIMS
et al., 2005a), características e expressões faciais (LUM et al., 2007; MOHAN et al., 2008; OOS-
TERHOF; TODOROV, 2008; ZHOU, 2012) impactam como os indivíduos interagem com robôs.
Goetz, Kiesler e Powers (2003) descobriram que as dicas sociais estão incorporadas na apa-
rência. Portanto, influenciam a forma como os indivíduos percebem um robô (positiva ou
negativamente), bem como sua vontade de cumprir as instruções.
Uma maneira de se projetar robôs mais antropomórficos é em relação ao estilo de comu-
nicação (ex. fala natural ou gestos), o movimento do robô ou contexto (ex. nomear um robô
e descrever sua personalidade) (ONNASCH; HILDEBRANDT, 2021). Características antropomór-
ficas salientes como rostos completos (em vez de uma versão abstrata) variam não apenas
a aparência, mas também aspectos comunicacionais da aparência, como expressões faciais
(especialmente emoções) e essas características melhoram a interação social.
Embora alguns autores afirmam que robôs de aparência mais antropomórfica e que exi-
bem movimento naturalista irão provocar níveis mais auto de confiança (KIESLER et al., 2008;
CASTRO-GONZÁLEZ; ADMONI; SCASSELLATI, 2016; LEWIS; SYCARA; WALKER, 2018), o trabalho
de Vandemeulebroucke, Casterlé e Gastmans (2018) demostrou que adultos mais velhos des-
cobriram que a aparência humana dos SARs, usados em ambientes de cuidados a idosos, é
enganosa e isso gerou decepção.
A resposta dos humanos em relação aos robôs segue um padrão não linear chamado “The
uncanny valley ” (MORI; MACDORMAN; KAGEKI, 2012). À medida que a aparência dos robôs se
aproxima de uma perfeita semelhança de forma viva, há uma queda acentuada na afinidade
do usuário com o robô e desencadeia uma resposta repulsiva, impactando o quanto as pessoas
intuitivamente confiam nesses robôs. Ao desenvolver um robô socialmente assistivo, deve-se
evitar entrar no padrão uncanny valley. O realismo tem que ser adequado ao papel e o contexto
do robô, levando em consideração a sua capacidade funcional (FEIL-SEIFER; MATARIĆ, 2005).
A preferência por alguns tipos de robôs dependem do contexto, tarefa e do papel do
robô. Por exemplo, existe uma preferência por robôs humanoides antropomórficos para ensino
(BELPAEME et al., 2018) pois é relacionado que as crianças aprendem melhor devido ao fato que
82
os SARs geram maior motivação graças a interação lúdica, facilitam a comunicação devido sua
capacidade de imitar movimentos e apoia a comunicação (verbal e corporal) (PAPADOPOULOS
et al., 2020).
Porém, os autores de Prakash e Rogers (2015) relacionam que embora idosos tenham
preferências por aparências mais humanas para tarefas sociais (como comunicação, jogar um
jogo, etc), porque evocava percepções de capacidades humanas. Contudo, para alguns desses
idosos a aparência mais humana também foi considerada invasiva quando relacionada a uma
tarefa altamente pessoal (por exemplo, tomar banho). Portanto, sugere que a relação entre
aparência e tarefas sociais pode ser impulsionada pela preferência pessoal do usuário.
Nível de Automação (Level of Automation)
O nível de automação (Level of Automation - LoA) do sistema robótico significa a aloca-

ção relativa de funções para um humano ou para o sistema. Esse nível de automação pode
influenciar o quanto um indivíduo está disposto a confiar no sistema robótico. Os robôs mais
avançados, em vez de ficarem presos em um grau de automação, ou seja, alocar a função ape-
nas para o humano ou apenas para o sistema, podem operar sob níveis variáveis de automação,
que às vezes depende da tarefa e do ambiente operacional (OLESON et al., 2011). Schaefer et
al. (2014) afirmam que o LoA tem um impacto direto no desenvolvimento da confiança.
O LoA pode variar de alto a baixo, onde um nível de automação alto é indicativo de
um sistema automatizado que é totalmente autônomo, ou seja, o humano não tem controle
sobre as funções dele. Já um nível mais baixo, indica que o humano está totalmente no
controle (PARASURAMAN; SHERIDAN; WICKENS, 2000). A LoA também está diretamente ligada
à pesquisa sobre o modo de automação (por exemplo, fixo, ajustável e adaptativo) por meio
do grau em que o humano interage com a automação (SCHAEFER et al., 2014).
Na automação ajustável, a interação é direta com a automação e o usuário/operador tem
controle sobre a mesma. Já na automação adaptativa a interação com a automação é indireta e
leva em consideração alguns estados do operador como estado emocional, desempenho e carga
de trabalho. Portanto, o tipo e a quantidade de automação varia de acordo com esses estados.
Geralmente os operadores humanos confiam mais na automação ajustável manualmente do
que na automação adaptativa (MORAY; INAGAKI; ITOH, 2000). No entanto, Looije, Neerincx e
Cnossen (2010) sugeriram que, ao interagir com a automação adaptativa, os humanos preferem
que a automação possa aprender, reconhecer e responder às diferenças de personalidade em
83
humanos, bem como exibir traços de personalidade específicos.

Alguns autores estabeleceram que a combinação de vários tipos de automação 13
para
fornecer assistência adaptativa é mais confiável do que LoAs inferiores individuais. Os níveis
mais altos de automação são considerados mais complexos e menos transparentes para o
operador e podem gerar menos confiança (ABBASS; SCHOLZ; REID, 2018). Alguns trabalhos
empíricos sugerem que diferentes níveis de automação podem ter diferentes implicações para
a confiança (MORAY; INAGAKI; ITOH, 2000).
O trabalho de Abbass, Scholz e Reid (2018) enfatiza alguns trabalhos na literatura que
mostram mudanças na confiança em resposta a mudanças nas propriedades e no desempenho
da automação. Os níveis variados de confiança foram positivamente correlacionados com os
diferentes níveis de uso de automação e a interação prolongada com a automação leva o
operador a fazer generalizações sobre a automação e atribuições mais amplas sobre sua crença
no comportamento futuro do sistema (fé). Sanders et al. (2011) relacionam que o aumento
da confiança leva a uma maior dependência da automação e que para dar autonomia às
máquinas, os indivíduos devem ser capazes de confiar nos processos subjacentes bem como
nos mecanismos de detecção de falhas.
Um agente autônomo14 toma uma decisão com base nas informações que recebe de seus
sensores, isso é, ele sabe em que estado se encontra e age de acordo. É o nível de automação de
um sistema que altera a capacidade de um agente em agir e reagir com base nas informações
recebidas sem necessidade de controle externo (SCHNEIDER; KUMMERT, 2021). O trabalho de
Beer, Fisk e Rogers (2014) propõe uma taxonomia para classificar o nível de autonomia do
robô para HRI. Os sistemas podem ser categorizados como sistemas human-in-the-loop, onde
o humano tem que aprovar uma decisão de controle pelos agentes autônomos, human-on-the-
loop onde o humano é informado sobre a decisão, mas o agente executaria uma decisão se
o operador humano não está interferindo ou human-off-the-loop, onde um humano não pode
interferir nas decisões do agente.
A relevância de considerar os diferentes LoA é aparente em domínios sensíveis, como ope-
rações militares ou aplicações médicas (por exemplo, cirurgia ou dispensador de remédios),
mas (ainda) menos aparente em campos socialmente assistivos (por exemplo, reabilitação ou
ensino). No entanto, as situações sociais exigem entender se um robô com características soci-
ais deve agir de forma autônoma, semi-autocontrolada ou se está em pleno controle humano.
13
O termo tipo de automação também pode ser conhecido na literatura como modo de automação
14
Autonomia é o grau de autoridade que o agente tem para agir
84
Para a experiência de interação, é crucial entender os efeitos de diferentes LoA (SCHNEIDER;

KUMMERT, 2021).
Inteligência (Intelligence)
A percepção da Inteligência se refere a quão inteligente e parecido com o julgamento

humano é o comportamento de alguma coisa (robô/automação). Bartneck et al. (2009a)
relaciona que a inteligência percebida dos robôs refere-se à capacidade dos robôs de adquirir e
aplicar conhecimentos e habilidades em vários ambientes de serviço. De acordo com Schaefer
(2013), a inteligência vem sendo associada como um antecedente dos recursos robóticos que
auxilia no desenvolvimento da confiança (YAGODA; GILLAN, 2012). Os conceitos de Autonomia
e Inteligência estão interligados (GOODRICH; SCHULTZ, 2007; YAGODA; GILLAN, 2012).
De acordo com Bartneck et al. (2009b), comportamentos de ativos tecnológicos (ex. robôs)
são baseados em métodos e conhecimentos que foram desenvolvidos pela Inteligência Artificial
(IA). Porém, os robôs interativos enfrentam um tremendo desafio para agir de forma inteli-
gente, isto se deve as dificuldades da IA de formalizar o comportamento humano (BARTNECK
et al., 2009b). Uma variedade de pesquisas ilustrou a aparência física de um robô (com ênfase
particular na semelhança humana) como uma influência considerável na percepção das pessoas
de uma série de capacidades do robô e também de sua inteligência (HARING et al., 2016; SIMS et
al., 2005a). Alguns autores também relacionam que a percepção de inteligência que o usuário
têm do robô influencia diretamente suas atitudes para com o robô (BRADWELL et al., 2021).
No trabalho de Breazeal (2004) foi demonstrado que robôs com habilidades semelhantes
às humanas, como compreensão de fala e geração de emoções, promovem as percepções de
inteligência. Bartneck et al. (2009a) investigaram como diferentes tipos de robôs impactam
a animação (animacy15 ) e a inteligência percebidas e descobriram que ambas são altamente
correlacionadas (BARTNECK et al., 2009a).
A capacidade de um robô de expressar emoções pode desempenhar um papel no desenvol-
vimento de tecnologia inteligente. O afeto, por exemplo, é uma parte ativa da inteligência e
fundamental para que a tecnologia funcione com sensibilidade em relação aos humanos (BEER
et al., 2017). Langer et al. (2019) afirmam que a inteligência que está sendo desenvolvida para
robôs sociais permite comportamento direcionado a objetivos, muitas vezes levando à atribui-
15
Esse conceito está relacionado a capacidade de medir a animação que se observa, ou seja o quão perto do
natural é o objeto que esta sendo avaliado
85
ção de intenção ao robô. No contexto de terapia baseada em SARs, a inteligência/utilidade

percebida do SARs está intimamente ligada à confiança e é exclusivamente correlacionada com
as habilidades demonstradas pelo agente na tarefa terapêutica (por exemplo, capacidade de
desempenho, precisão de avaliação, entre outras) (CUCCINIELLO et al., 2021; FASOLA; MATARIĆ,
2013).
Clabaugh e Matarić (2019) associa que em SARs a definição do papel do robô está associ-
ada à sua inteligência. O autores observaram que quanto mais alto é o nível do papel do robô,
mais alto deverá ser o requisito de inteligência do robô, para que ele não quebre as expectativas
do usuário e a dinâmica de interação (FONG; NOURBAKHSH; DAUTENHAHN, 2003). Clabaugh
e Matarić (2019) também relacionam que o cuidado com a escolha da aparência do SARs é
uma maneira de gerenciar as expectativas dos usuários sobre a autonomia e a inteligência de
um robô em uma intervenção.
Personalidade do robô (Robot Personality)
Existem razões para acreditar que se um robô tivesse uma personalidade atraente, as
pessoas estariam mais dispostas a interagir e criar uma relação com eles (BREAZEAL et al.,
2002). Sanders et al. (2011) relaciona que personalidade robótica pode criar uma sensação de
conforto e que um robô altamente simpático, com resposta ativa e engajamento se correlaciona
com a confiança.
A personalidade de um robô pode afetar a conformidade de um usuário com aquele robô
(KIESLER; GOETZ, 2002). Um robô, ao exibir uma personalidade séria, pode provocar um maior
grau de conformidade do que uma personalidade de robô mais brincalhona. Quando o grau de
extroversão ou introversão do robô corresponde ao do usuário, o desempenho da tarefa pode
ser melhorado (TAPUS; MATARIĆ, 2008). Assim, imitação e relacionamento social podem ser
fatores significativos no desempenho da tarefa. Feil-Seifer, Skinner e Matarić (2007) propõem
que a referência de imitação elaborada por (JR et al., 2007) poderia ser revisado para SARs.
Portanto, deve-se investigar como a imitação (e reciprocidade) afeta o desempenho da tarefa.
A personalidade é uma forma de modelo conceitual, pois canaliza comportamento, crenças
e intenções em um comportamento de compensação coeso e consistente (BREAZEAL et al.,
2002). Ao fornecer deliberadamente uma personalidade a um robô, isso ajuda as pessoas a
entender melhor o comportamento do robô e a definir suas expectativas sobre as capacidades
do robô. Por exemplo, o Kismet do MIT recebe a personalidade de uma criança, fazendo com
86
que erros e mal-entendidos pareçam naturais (BREAZEAL et al., 2002).

A robótica incorporada permite que a personalidade seja expressa não apenas por meio
da voz, expressões faciais, posição do corpo e aparência, mas também por meio da interação
física envolvendo o movimento como meio de atrair e direcionar a atenção e o comportamento
do usuário e a utilização do espaço pessoal do usuário (LI, 2015). O trabalho de Robert
et al. (2020) revisou a literatura de personalidade de robôs e catalogou as personalidades
de robôs que eram mais frequentemente preferidas em termos de aceitação, confiabilidade,
prazer e facilidade de uso. Em particular, os humanos tendiam a preferir robôs que exibissem
uma personalidade extrovertida. Os estudos analisados por Robert et al. (2020) destacam
claramente a importância da personalidade do robô.
Em seu trabalho sobre a confiança em SARs na reabilitação, Langer et al. (2019) deixam
claro que a personalização do robô é uma característica importante para os robôs sociais de-
senvolverem relacionamentos confiáveis com os usuários. Os autores apontam que a adaptação
da personalidade do robô de acordo com a personalidade humana se mostrou efetiva em me-
lhorar a performance em tarefas de reabilitação. Outro autor que deixa claro a importância
da personalização de um SARs é Pino et al. (2015). Ele indica que o robô se adequar as
preferências do usuário é vital para que os usuários possam aceitar o seu uso.
Segurança/Privacidade (Safety/Privacity)
Investigar as percepções humanas de segurança em experimentos de HRI é um desafio à

luz de inúmeras preocupações e riscos éticos (SALEM et al., 2015a). A segurança percebida
(referente à percepção do usuário quanto ao nível de perigo e de conforto) ao interagir com
robôs têm sido sugeridos como críticos para aceitação de robôs (BARTNECK et al., 2009b).
A relação entre o projeto de robôs e a segurança torna-se uma área de pesquisa ainda mais
importante. Isto se deve ao fato que as capacidades robóticas continuam avançando por meio
do aumento da interdependência de vários tipos de automação, bem como da necessidade
social de robôs de interagirem em uma ampla variedade de ambientes físicos (SCHAEFER et al.,
2014).
A segurança é uma referência importante para a HRI: quão seguro é o próprio robô e quão
seguro o robô pode ser na vida do seu usuário? A segurança de um robô em seu domínio é
uma das principais preocupação ao avaliar um sistema HRI. Se um robô não for projetado com
a segurança em mente, pode prejudicar os próprios usuários com os quais foi projetado para
87
interagir. A segurança também se refere à proteção (tanto quanto possível) do usuário de um

robô bem como a proteção do próprio robô. A necessidade de avaliação de segurança para
sistemas HRI projetados para populações de usuários vulneráveis é um tópico de importância
crescente. Pois os sistemas HRI estão sendo cada vez mais desenvolvidos para usuários dessas
populações (MURPHY et al., 2010).
O projeto (design) pode ter um impacto direto na segurança humana. Os recursos de
segurança devem ser inerentes ao sistema em nível de hardware básico (NESTOROV et al.,
2014), como por exemplo, preocupações com tipo de borda, material de construção do robô,
tamanho e etc. O comportamento adaptativo e específico do robô individual pode promover
comportamentos positivos, mas precisa ser equilibrado com a segurança do comportamento
(ex. previsibilidade) (NESTOROV et al., 2014).
Em ambientes de cuidado de idosos, uma sólida funcionalidade técnica do robô, em oposto
à sua aparência e comportamento social, é a característica mais importante dos SARs (VAN-
DEMEULEBROUCKE; CASTERLÉ; GASTMANS, 2018). As preocupações com a segurança levam
à falta de confiança do usuário em robôs, principalmente usados em casa e com adultos mais
velhos (SCOPELLITI; GIULIANI; FORNARA, 2005b). Embora a segurança seja um risco importante
a ser considerado, os SARs fornecem principalmente assistência por meio de interação social
e não física (FEIL-SEIFER; MATARIC, 2011). Vale salientar que, ainda que os riscos reais do uso
de SARs possam ser baixos, o risco percebido pelos pacientes pode ser alto. Portanto, para
obter a confiança de um paciente, a equipe clínica e o SARs devem ser capazes de aliviar as
preocupações de segurança dos pacientes.
Para reduzir as preocupações com a segurança, pode-se eliminar o contato físico entre o
usuário e o robô. As preocupações naturalmente não podem ser totalmente eliminadas, uma
vez que interações físicas não intencionais são possíveis (TAPUS; MATARIĆ; SCASSELLATI, 2007).
Por exemplo, uma das preocupações da segurança pode ser quanto a área de segurança de
interação do robô, de tal forma que, ao ajustar a distância em direção a um robô, os usuários
podem se proteger de possíveis danos, levando a uma maior sensação de segurança (MILLER
et al., 2020).
Kellmeyer et al. (2018) propõem que segurança, intencionalidade, previsibilidade de com-
portamento e sintonia mútua são pré-requisitos importantes para o estabelecimento de con-
fiança entre humanos e SARs. Na Segurança da interação humano-robô em reabilitação, o
paciente deve estar confiante de que o SARs realiza movimentos que promovem e apoiam a te-
rapia e não causam danos. No entanto, construir robôs com mais “inteligência”, ou autonomia
88
pode diminuir sua previsibilidade e, consequentemente, a segurança do paciente. Projetar um

SARs seguro é certamente uma condição necessária, mas pode não ser suficiente. O desafio é
projetar SARs que satisfaçam os requisitos de segurança aceitos, mas que sejam atraentes e
motivadores para os humanos interagirem (KELLMEYER et al., 2018).
Em suma, a segurança é uma preocupação em qualquer uso de máquinas, seja ela robótica
ou não. Alguns obstáculos reais a serem abordados pela segurança são, por exemplo, projeto
(design) físico, percepções do usuário, ética e custo (RABBITT; KAZDIN; SCASSELLATI, 2015).
Por exemplo, em aplicação de SARs no ensino de crianças dentro do TEA, algumas aborda-
gens para aumentar a percepção de segurança da interação podem ser: os professores devem
estar presentes durante toda a sessão, as crianças devem manter uma distância segura do
robô e qualquer sinal ou desconforto demonstrado pelas crianças, como, por exemplo, inquie-
tação e desconforto, a sessão deve ser imediatamente encerrada (AZIZ et al., 2015). Essas são
estratégias simples que podem ajudar a melhorar a confiança na segurança.
Em se tratando de privacidade, existem preocupações válidas sobre a privacidade de um
usuário com SARs, assim como com a maioria das outras tecnologias (FEIL-SEIFER; MATARIC,
2011). Langer et al. (2019) afirmam que os stakeholders estão preocupados com a proteção
da privacidade dos pacientes ao utilizar robôs e essas preocupações afetam negativamente a
confiança dos usuários nos robôs. Essas preocupações são bem comuns principalmente entre
terapeutas e pesquisadores que usam SARs (ALAIAD; ZHOU, 2014; COECKELBERGH et al., 2016).
Feil-Seifer e Mataric (2011) afirmam que, se um robô não for capaz de distinguir ade-
quadamente entre informações confidenciais e informações que o usuário permite que sejam
divulgadas, então o robô pode criar uma violação da privacidade do usuário. O robô pode não
ter recursos suficientes para distinguir entre informações privilegiadas e informações que podem
ser distribuídas bem como pode ser incapaz de distinguir entre indivíduos que têm autoridade
para receber informações sobre o usuário e aqueles que não têm (FEIL-SEIFER; MATARIC, 2011).
A questão da presença do robô também afeta a sensação de privacidade do usuário e
isto é especialmente importante para SAR (FEIL-SEIFER; SKINNER; MATARIĆ, 2007). Alguns
experimentos mostram que os usuários, principalmente idosos, não gostam de se sentir sendo
vigiados (ANDERSON et al., 2006; PINO et al., 2015).
Algumas questões importantes levantadas por Feil-Seifer, Skinner e Matarić (2007) refe-
rentes a privacidade dizem respeito a se o senso de privacidade percebido pelo usuário está
relacionado ao melhor desempenho do robô como presença assistida bem como se a priva-
cidade do usuário afeta a satisfação do usuário. Medidas do tipo como limitar a qualidade
89
dos sensores e dados que são coletados podem ajudar a melhorar a privacidade, contudo, es-
tas medidas podem afetar criticamente o desempenho dos robôs, assim como pode impactar
também a segurança (safety ) (VANDEMEULEBROUCKE; CASTERLÉ; GASTMANS, 2018).
Uma questão muito importante quando se trata de privacidade diz respeito à responsabi-
lidade legal. É inteiramente possível que um erro de software possa vazar informações privile-
giadas de alguma forma e que o responsável pelo software se sinta completamente dentro de
seus direitos de abdicar da responsabilidade por tal erro. A aplicação da justiça relacionada ao
SARs é uma perspectiva desafiadora, considerando que o software é apenas um dos aspectos
de um sistema SARs completo (FEIL-SEIFER; MATARIC, 2011).
Segundo Sharkey (2016) a privacidade é uma grande preocupação, especialmente no con-
texto do Regulamento Geral de Proteção de Dados na Europa (General Data Protection
Regulation - GDPR), ainda mais quando se trata de dados de indivíduos vulneráveis, como
crianças em idade escolar. Assim, SARs que registram e armazenam informações pessoais de
crianças (KANDA et al., 2007) precisam gerenciar esses dados de forma sensível como forma de
proteção.
A confiança dos médicos nos SARs pode ser aprimorada se o SARs disponibilizar explici-
tamente os métodos pelos quais protege a privacidade dos pacientes (ALAIAD; ZHOU, 2014).
Algumas abordagens eficazes para mitigar problemáticas de privacidade podem ser: ofuscar ou
“nublar” os dados (filtrar vídeo e/ou áudio), fornecer feedback para aumentar a transparência
e fornecer controle sobre quando/onde os dados são coletados (CAINE et al., 2011). O mais
importante é deixar claro o que está sendo feito para lidar com a privacidade. Alaiad e Zhou
(2014) sugerem que mais transparência e educação em relação às políticas de privacidade de
robôs podem aliviar as preocupações com a privacidade.
Outro ponto importante é que o usuário pode não ter conhecimento sobre as capacidades
do robô, o que pode levar ao usuário não ter noção de quais dados o robô faz uso e isso
pode impactar em sua percepção da confiança. Por isso é importante certificar-se de que as
capacidades de um robô são suficientemente explicadas para que o usuário seja bem-informado
sobre as habilidades do robô o máximo possível (FEIL-SEIFER; MATARIC, 2011).
Conforme informado no início da seção 3.3 parte da taxonomia referente ao Robô divide-
se em 2 subcategorias: Recursos e Capacidade. Tendo concluído os fatores da sub-categoria
Recursos, a seguir apresentamos os 05 fatores da sub-categoria Capacidade.
90
3.3.2.2 Capacidade (Capability)
A capacidade do sistema é uma das áreas mais pesquisadas em relação à confiança tanto
em HRI quanto em automação (SCHAEFER et al., 2016). Os fatores que fazem parte da ca-
pacidade do robô são relacionados a: Comportamento, Confiabilidade/Erros, Feedback,
Adaptabilidade e Proximidade
Comportamento (Behavior)
O comportamento é a maneira pela qual alguém age ou se conduz, especialmente em rela-

ção aos outros. A ação pode ser realizada de várias maneiras. Para um robô humanoide, pode
ser movimento físico, gesto, expressão facial, linguagem, etc. Para um veículo automatizado,
pode ser movimento físico, acender luzes, buzinar, entre outros (LIU et al., 2019). Podemos
dizer que o comportamento é um conjunto de reações de um sistema dinâmico face às diversas
interações propiciadas pelo meio onde está envolvido.
O Comportamento da automação influencia como o usuário confia no auxílio automatizado.
É importante que o comportamento da automação seja previsível “predictable” (corresponda à
expectativa do usuário) e confiável “dependable” (consistente e eficaz), pois essas propensões
do sistema instigam o desenvolvimento da confiança e sua conservação (SCHAEFER et al., 2016).
Na automação, reações inesperadas causam uma rápida queda na confiança e muitas vezes
pode levar ao desuso ou desrespeito das informações porvir (WIEGMANN et al., 2010).
Uma das características importantes de comportamento dos robôs socialmente assistivos
levantadas por (FEIL-SEIFER; MATARIĆ, 2005) é a intencionalidade. O comportamento intencio-
nal auxilia na questão da previsibilidade e aumenta o engajamento social e a confiança. Alguns
autores como Salichs et al. (2006) afirmam também que um robô social deve ser proativo e
não só reagir em resposta a eventos externos, mas também exibir um comportamento direci-
onado a objetivos e, quando apropriado, ser capaz de tomar iniciativa (ou seja, realizar ações
inesperadas) para corrigir as informações humanas ou sugerir cursos alternativos de ações.
Para que os robôs funcionem efetivamente em ambientes centrados no ser humano, eles
devem ter os comportamentos sociais necessários para interagir com as pessoas. Isso é es-
pecialmente verdadeiro para robôs socialmente assistivos que usam interações sociais para
atender populações vulneráveis, como indivíduos que vivem com deficiências cognitivas. Sa-
bemos que a qualidade dos comportamentos de um robô, principalmente sua fala e gestos,
91
influenciam diretamente na eficácia da assistência prestada (FEIL-SEIFER; MATARIĆ, 2005) e,

consequentemente, na aceitação desses robôs.
Para que um robô demonstre comportamentos sociais é importante algumas características
como uma conversa social e troca de turnos nas falas entre usuário e robô, comportamento
de empatia, como atenção e elogios, entre outros (LOOIJE; NEERINCX; CNOSSEN, 2010). Uma
das problemáticas do comportamento social é que espera-se que os robôs respondam a situ-
ações moralmente duvidosas e que sejam julgados de acordo com as normas sociais para tais
comportamentos (SCHEUTZ; MALLE, 2017). Isso gera uma certa complexidade ao programar
o comportamento, porque existe um dilema entre os fatores sociais e a capacidade técnica.
É preciso entender as normas e expectativas sociais para projetar robôs que possam ser acei-
tos pelo público, porém nem sempre é possível adequar o comportamento do robô como o
esperado (CHOI; SWANSON, 2021).
A personalização é uma característica chave dos robôs socialmente assistivos (KOUTEN-
TAKIS; PILOZZI; HUANG, 2020). Dar ao robô uma “personalidade” realista e os meios para
expressá-la são vitais para a aceitação, por exemplo, de um paciente de um robô do tipo com-
panheiro. Comportamentos sociais positivos, como a capacidade de transmitir emoções como
prazer e simpatia, e a personalização de um SAR para atender às preferências do usuário são
vitais para obter a aceitação do usuário (PINO et al., 2015). Para Langer et al. (2019), além
da importância da personalização do comportamento para SARs, também é importante que
os robôs possam produzir intenções reconhecíveis, sejam elas por gestos, expressões faciais ou
qualquer outra dica de comportamento.
Alguns trabalhos na literatura se concentram na personalização de comportamentos de
robôs assistivos para perfis de usuários (TAPUS; MATARIĆ, 2008; CHAN; NEJAT, 2012; CHIANG
et al., 2014). Os comportamentos foram personalizados para um grupo geral de usuários, por
exemplo, extrovertidos versus usuários introvertidos (TAPUS; MATARIĆ, 2008), ou a um estado
de usuário durante uma atividade, como nível de estresse durante um jogo de memória (CHAN;
NEJAT, 2012). A personalização de comportamentos de robôs assistivos para o modelo cogni-
tivo de um único usuário ainda tem que ser investigado. Essa forma de personalização permite
que um robô ajude efetivamente usuários com deficiência, adaptando o nível de assistência for-
necida às necessidades cognitivas de um usuário e suas habilidades (MORO; NEJAT; MIHAILIDIS,
2018).
Para Dautenhahn (2002), o projeto (design) comportamental é muito importante, pois o
comportamento do robô é um dos principais determinantes da atitude do usuário em relação
92
a ele e contribui para sua “impressão de vida” (lifelike). Além do mais, o comportamento
influencia e é influenciado por outros fatores, como emoção, personalidade, comunicação, entre
outros. No trabalho de Axelsson et al. (2021) é proposta uma ferramenta canvas que apresenta
uma forma estruturada de pensar em aspectos de projeto (design) de comportamento, como
por exemplo entender o pepel do robô, quais características de personalidade o robô vai exibir
(e.g. fixa, adaptável), quais fatores ambientais e externos afetam seu comportamento, entre
outros.
Confiabilidade/Erros (Reliability/Errors)
A confiabilidade refere-se à consistência de ações, valores, objetivos e estabilidade de de-

sempenho durante a vida de um relacionamento de confiança (ABBASS; LEU; MERRICK, 2016).
Schaefer et al. (2016) afirmam que sistemas com comportamento e comunicação altamente
confiáveis (reliability ) geram confiança (trust) em diferentes contextos de tarefas. Alguns
autores estabelecem que a confiabilidade de um sistema aumenta com a redução de erros.
Porém, os erros são inevitáveis na interação humano-automação e humano-robô (HANCOCK et
al., 2011; SCHAEFER et al., 2016).
Os erros são discutidos geralmente em termos de falhas e alarmes falsos (DIXON; WICKENS,
2006; DIXON; WICKENS; MCCARLEY, 2007). Alguns autores relacionaram que a taxa de falhas
e alarmes excessivos (ex. aumento de alarmes falsos) degradam a confiança e afetam nega-
tivamente o desempenho (WICKENS et al., 2009; YAMADA; KUCHAR, 2006). Washburn et al.
(2020) estabelecem que os erros de robôs são comuns quando eles operam em ambientes não
estruturados, que incluem objetos e indivíduos que podem mudar frequentemente de local ou
se comportar de outras maneiras difíceis para prever. Os autores afirmam que embora seja
importante continuar tornando os robôs mais confiáveis, a complexidade do comportamento
humano torna virtualmente impossível eliminar erros durante uma interação humano-robô mais
próxima.
Embora a magnitude de um erro seja um fator importante em relação à perda de confiança,
um acúmulo de pequenos erros parece ter um impacto mais severo e duradouro na confiança
do que um único grande erro (DIXON; WICKENS; MCCARLEY, 2007). Em contraste, no entanto,
trabalhos anteriores em HRI descobriram que erros ocasionalmente realizados por um robô
humanoide podem aumentar sua aparência e simpatia humana percebidas (UGGIRALA et al.,
2004). Kaniarasu et al. (2013) avaliou que fornecer ao usuário mais informações sobre os
93
estados internos do robô os ajuda a antecipar as falhas do robô, ajustar sua confiança de
acordo e alocar o controle, minimizando os erros. A gravidade em que o erro afeta o usuário
também influência a confiança. Portanto, erros mais graves e que geram consequências mais
graves geram um nível mais baixo de confiança (BROOKS, 2017; GARZA, 2018). Enquanto,
erros com consequências menos severas para o usuário melhoram os resultados de confiança
(CORREIA et al., 2016).
Langer et al. (2019) afirmam que ao projetar SARs para uso em reabilitação, é necessário o
que Brooks (2017) descreve como robôs “prontos para falhas”, que são robôs que nem sempre
funcionam corretamente, mas que são projetados para minimizar o impacto de suas falhas e
deficiências. Robinette, Howard e Wagner (2015) propuseram três formas de reparar a perda
de confiança causada por falhas: desculpando o erro, prometendo fazer melhor no futuro e
proporcionando razões adicionais para confiar no robô, sendo o momento da entrega (timing)
da mensagem do robô, um fator crítico para determinar o sucesso da reparação da confiança.
Outra maneira de diminuir o impacto das falhas segundo Desai et al. (2013), é fazer com
que o robô advirta o usuário de potenciais quedas em seu desempenho, assim, prevenindo o
declínio da confiança do usuário. Além disso, Correia et al. (2018) relacionaram que quando
um robô justifica sua própria falha, citando um problema técnico, é capaz de mitigar o impacto
negativo das falhas. Porém, esta justificativa é aceita apenas quando a falha não incorrer em
uma consequência grave aos participantes (ex. danos físicos). Langer et al. (2019) ressaltam
que os SARs devem ser capazes de reconhecer e acusar erros quando eles ocorrem em sessões
de terapia com pacientes e erros graves devem ser minimizados a todo custo.
Feedback
O feedback são as informações fornecidas ao usuário pela automação (HANCOCK, 1996). A

adequação de sugestões e feedback mostrou ter uma conexão direta com o desenvolvimento da
confiança (SCHAEFER et al., 2014). Por exemplo, alguns trabalhos investigam certos aspectos
do feedback que se mostram fontes de impacto na confiança, que incluem quantidade de
feedback (MUIR; MORAY, 1996), disponibilidade de informações (BITAN; MEYER, 2007), tipo
de sinalização (WIEGMANN et al., 2006), precisão e veracidade do feedback (SHARPLES et al.,
2007; SPAIN; BLISS, 2008) e comunicação eficaz que minimiza informações conflitantes para o
operador (SONG; KUCHAR, 2003; STANTON; YOUNG; WALKER, 2007).
Na automação os feedbacks mais comum são os alarmes. O efeito do tipo de alarme (so-
94
noro ou visual) e a sensibilidade dos alarmes, especificamente a frequência e duração afetam o

desenvolvimento da confiança. No entanto, o efeito do tipo de alarme parece ser dependente
da tarefa (GUPTA; BISANTZ; SINGH, 2002; WICKENS et al., 2009). Wickens et al. (2009) rela-
cionam que alarmes excessivos podem ser percebidos como sendo alertas falsos, o que pode
levar a desconfiança e consequentemente a perda de confiança. Em seu trabalho Lees e Lee
(2007) encontraram uma distinção interessante entre alarmes falsos e alarmes desnecessários,
enquanto os alarmes falsos diminuíam os níveis de confiança e conformidade, alarmes desne-
cessários (instâncias em que o dispositivo automatizado indica uma situação perigosa, mas o
ser humano pode não considerá-la perigosa) aumentam a confiança e a conformidade.
O feedback depende do modo de comunicação do robô e da sua capacidade de percepção
e cognição. As informações que provem do robô afetam a confiança do usuário e seu co-
nhecimento da situação (SCHAEFER, 2013). Os SARs podem usar os sensores para monitorar
a performance dos usuários e dar feedbacks precisos durante o treinamento (LANGER et al.,
2019). A maior parte dos feedbacks dos SARs estão relacionados a tarefas e com o propósito
de maximizar o desempenho e manter o usuário engajado (TSIAKAS; ABUJELALA; MAKEDON,
2018). O trabalho de Natarajan e Gombolay (2020) aponta que o tipo de feedback do agente
(correto/incorreto) desempenha um papel significativo na confiança dos usuários.
Adaptabilidade (Adaptability)
A adaptabilidade da automação está relacionada com a qualidade de ser reprogramável ou

adaptar-se aos fatores à sua volta, estando esse conceito relacionado à confiança em robôs
(HANCOCK et al., 2011; SANDERS et al., 2011). Espera-se que quando os usuários perceberem
que o sistema se adapta às suas necessidades de mudança, o considerem mais útil e sejam
mais receptivos ao sistema (HEERINK et al., 2010). A confiança também aumenta quando um
ser humano tem a capacidade de se adaptar ao nível da automação do robô (SANDERS et al.,
2011).
A tecnologia adaptativa pode ser usada para ajudar a construir confiança em um sistema
robótico. Por exemplo é reduzir a carga de tarefas para evitar excesso ou falta de confiança
no sistema robótico, adaptando-se às necessidades cognitivas dos indivíduos (COSENZO et al.,
2006). O trabalho de Xu et al. (2012) relacionou que uma classificação mais alta de adapta-
bilidade mostra que os usuários percebem o robô como mais adaptável às suas necessidades.
Portanto, os usuários tendem a confiar mais no robô e percebem o robô como mais sociável.
95
Criar modos de interação naturais e eficazes são desafios-chave para a tecnologia (EBERHART;
SHI; KENNEDY, 2001; MOULOUA; HANCOCK, 2019). Um robô social deve fornecer interação
adaptativa e isto pode ser feito, por exemplo, com o uso de interfaces baseadas em manipu-
lação direta usando técnicas de inteligência artificial. Essas técnicas são utilizadas para tornar
a interface adaptativa, realizando raciocínio e aprendizado, modelagem de usuários e reconhe-
cimento de planos. A complexidade do processo de interação também pode ser adaptada de
acordo com a familiaridade do usuário com a robótica (SALICHS et al., 2006).
Os diferentes papéis que os robôs sociais podem operar (parceiro, pares, assistente, en-
tre outros) implica que eles precisam ser capazes de exibir flexibilidade e adaptabilidade para
permitir a interação social com uma ampla gama de humanos (FONG; NOURBAKHSH; DAUTE-
NHAHN, 2003). Para Beer et al. (2017), a adaptabilidade comportamental e a customização
de robôs socialmente assistivos pode melhorar a comunicação proxêmica16 , habilidades de
conversação, entre outros. Porém, fatores como o nível de autonomia dos robôs (BEER; FISK;
ROGERS, 2014), modos de comunicação, seu aprendizado e adaptabilidade devem continuar a
ser integrados para definir e resolver os desafios da Interação Humano-Robô.
De acordo com Umbrico et al. (2020) um requisito crucial para sistemas SARs eficazes é
a capacidade de lidar com uma grande variedade de situações e interações contextualizadas
de acordo com os diferentes contextos de vida e hábitos culturais das pessoas assistidas. Por
isso, os robôs socialmente assistivos devem ser dotados de um rico portfólio de habilidades de
alto nível e recursos de interação para promover assistência personalizada (TAPUS; MATARIĆ;
SCASSELLATI, 2007) mostrando alta adaptabilidade.
A personalização e a adaptação são fortemente necessárias para atender efetivamente às
necessidades específicas dos idosos, por exemplo, e alcançar um bom nível de aceitação (ROSSI;
FERLAND; TAPUS, 2017; MORO; NEJAT; MIHAILIDIS, 2018). Além disso, os sistemas SARs devem
ser capazes de harmonizar as necessidades de diferentes atores (ou seja, idosos, profissionais
de saúde e cuidadores) que geralmente têm perspectivas e objetivos específicos, possivelmente
conflitantes.
16
É um termo criado pelo antropólogo Edward T. Hall em 1963 para descrever o espaço pessoal de indivíduos
num meio social.
96
Proximidade (Proximity)
Na literatura de HRI a maior parte de trabalhos relacionados a confiança identificam a

proximidade humano-robô como um fator importante para aceitação e confiança em robôs
(HANCOCK et al., 2011; SANDERS et al., 2011; HENKEL et al., 2014; MILLER et al., 2020). Babel
et al. (2021) comentou em seu trabalho que as pessoas costumam manter um espaço pessoal
em torno de si e esperam que esse espaço seja preservado por outros (HALL, 1974 apud BABEL
et al., 2021). Essa distância é influenciada por uma combinação de contato visual, intimidade
e outros comportamentos não verbais, conforme afirma a teoria do equilíbrio (ARGYLE; DEAN,
1965 apud MUMM; MUTLU, 2011). A distância que uma pessoa mantém de um robô foi
examinada como um correlato comportamental da confiança (WALTERS et al., 2011; PETRAK
et al., 2019). Na HRI, a confiança é altamente relevante para explicar por que algumas pessoas
podem se aproximar de robôs mais do que outras e por que a proximidade pode aumentar
ao longo do tempo à medida que a confiança é construída (TAKAYAMA; PANTOFARU, 2009;
SAUNDERSON; NEJAT, 2019).
Um robô social incorporado deve fazer o uso apropriado do espaço social para que um
usuário humano possa se sentir seguro e confortável (TAPUS; MATARIĆ, 2008). O desenvolvi-
mento de um comportamento proxêmico apropriado do robô em relação aos usuários é uma
tendência importante na pesquisa da robótica (LAUGIER, 2015; LEICHTMANN; NITSCH, 2020).
Na violação do espaço pessoal de alguém podem surgir sentimentos ameaçadores e desconfor-
táveis (PERRY et al., 2013). Ao ajustar a distância em direção a um robô, os usuários podem se
proteger de possíveis danos, levando a um aumento da sensação de segurança (LEICHTMANN;
NITSCH, 2020). Além disso, alguns fatores influenciam essencialmente a proximidade na HRI,
como: características individuais relacionadas ao usuário (ex. idade, personalidade); relacio-
nadas ao robô (ex. aparência, olhar) e relacionadas à própria abordagem (ex. frequência em
que o usuário tem contato, tempo de contato, etc) (WALTERS et al., 2005; KOAY et al., 2007;
OOSTERHOUT; VISSER, 2008; MUMM; MUTLU, 2011).
Em Hartnett, Bailey e Hartley (1974) a aparência, altura do corpo e a postura corporal
do parceiro de interação mostrou-se como influência nas preferências pessoais de espaço em
interações humanas. Alguns estudos comprovaram a relação entre postura corporal de um
robô e a preferência de proximidade (HAM et al., 2012; OBAID et al., 2016). Por exemplo,
Obaid et al. (2016) descobriu que a distância inicial de aproximação de um robô com postura
corporal sentado foi menor em comparação com um robô em pé. Já o trabalho de Miller et al.
97
(2020) mostrou que a altura influenciou a distância de conforto e confiança. No estudo deles,
um robô menor foi autorizado a se aproximar mais do que um robô alto em uma primeira
tentativa e o usuário se mostrou com maior confiança em relação ao robô menor. Contudo,
com uma segunda tentativa de aproximação do robô maior, a ansiedade do usuário diminuiu
e a confiança tendeu a aumentar para o robô alto. Este estudo leva a concluir que a altura
parece ter impacto apenas na primeira impressão do robô. Na comunicação entre o robô e o
humano, principalmente na construção de diálogos (iniciativa ou tipo), a proximidade também
afeta a confiança (BABEL et al., 2021).
Tendo concluído a descrição dos 11 fatores que fazem parte Categoria geral Robô, a seguir
passamos a descrever a categoria geral Ambiente que divide-se em 2 subcategorias e 7 fatores.
3.3.3 Ambiente
De acordo com Schaefer (2013) a Interação Humano-Robô pode acontecer nos mais varia-
dos ambientes, esses, podendo variar desde os ambientes sociais (ex. salas de aula, domicílios)
até ambientes de alto risco (campo de batalha). A importância dos aspectos do ambiente
também podem refletir a forma como o robô opera e até a maneira como os humanos re-
alizam uma tarefa (GOODRICH; SCHULTZ, 2007). O fator ambiente segundo Schaefer (2013)
pode relacionar-se a mudanças no comportamento dos robôs e dos humanos (ex. expressão de
sentimentos ou atitudes) e no desenvolvimento de uma linguagem compartilhada (STEDMON
et al., 2007).
Para que uma interação bem-sucedida ocorra dentro de um determinado ambiente, os
companheiros de equipe humanos e robóticos devem compartilhar um objetivo comum, ter um
pensamento modelo, colocar as necessidades do grupo acima das necessidades individuais, ver
a natureza interdependente da equipe positivamente, conhecer e cumprir papéis, comunicar-se
efetivamente com os membros da equipe e confiar em cada membro da equipe (GROOM, 2008).
Adotamos uma classificação similar a de Schaefer et al. (2016). Como observado na Tabela
5, o Ambiente foi dividido em duas subcategorias: Colaboração em grupo e Tarefa/Contexto.
3.3.3.1 Colaboração em grupo (Team Collaboration)
Para uma colaboração em equipe bem-sucedida é necessária uma boa confiança relacionada
as características que compõem essa colaboração (LYONS et al., 2009). O trabalho em conjunto
98
Tabela 5 – Rastreamento dos conceitos do Fator Ambiente nas principais Taxonomias
Fator Ambiente Presente em:
• Interdependência de papéis/tarefas •Schaefer (2013); Schaefer et al.

(2016)
• Composição de equipe •Hancock et al. (2011); Schaefer

Colaboração em grupo
•Impacto Social/Cultural al. (2016); Langer et al. (2019)
• Modelos mentais compartilhados (2013); Schaefer et al. (2016)
• Risco/Incerteza •Schaefer (2013); Schaefer et al.

(2016); Langer et al. (2019)
• Contexto/Tipo de tarefa/ •Hancock et al. (2011); Schaefer

Tarefa/Contexto (2013); Schaefer et al. (2016); Lan-
Complexidade ger et al. (2019)
• Ambiente físico (2013); Schaefer et al. (2016)
com uma pessoa ou robô, para realizar uma tarefa, requer que os membros da equipe envol-
vidos nessa colaboração dependam uns dos outros para atingir seus objetivos (SCHOORMAN;
MAYER; DAVIS, 2007). Os fatores de confiança relacionados à colaboração em grupo incluem a
interdependência de papéis/tarefas, composição de equipe, modelos mentais com-
partilhados e impacto social/cultural.
Interdependência de papéis/tarefas (Role/Task Interdependence)
Interdependência diz respeito ao grau em que os membros da equipe devem confiar uns
nos outros para concluir as tarefas (SAAVEDRA; EARLEY; Van Dyne, 1993). O grau de interde-
pendência entre os envolvidos na relação é um dos fatores mais importantes envolvidos no
desenvolvimento da confiança (AXELROD, 2004 apud SCHAEFER, 2013).
As relações de interdependência são os mecanismos empregado para gerenciar ativamente
os processos que avaliam a confiabilidade da tecnologia e que permitem uma calibração precisa
da confiança pelas pessoas que a usam. As relações de interdependência constituem nas junções
necessárias na comunicação orientada para a tarefa e nas ações entre pessoas e máquinas que
tornam produtiva a atividade conjunta em que estão engajadas (JOHNSON et al., 2014b).
99
Schaefer et al. (2016) estabelece que a medida que a automação continua avançando na
inteligência e na tomada de decisões independente, o potencial para equipes homem-máquina
interdependentes se torna uma realidade cada vez maior. Portanto, é importante entender
os efeitos da interdependência das tarefas e da composição da equipe no desenvolvimento
da confiança nesse sistema. Em uma revisão do maior corpo de trabalho sobre este tópico,
Hattingh (2002) postulou que agentes, sistemas automatizados e até mesmo sistemas autô-
nomos podem funcionar de forma interdependente com outras partes do sistema maior por
meio de algoritmos (por exemplo, executando funções de busca), redes neurais, ferramentas
de mineração de dados, sistemas especialistas e até algoritmos genéticos.
Composição de equipe (Team Composition)
A composição de equipe é uma mistura geral de características entre pessoas em uma

equipe, tornando a equipe homogênea ou heterogênea (STEWART, 2006). Essas características,
incluindo tamanho da equipe, diversidade, papéis e características específicas (por exemplo,
atitudes, personalidade, valores), influenciam a eficácia da equipe (SCHAEFER et al., 2016). A
composição da equipe e a interdependência (papel/tarefa) também podem fornecer informa-
ções adicionais que afetam a forma como uma pessoa entende o robô (SCHAEFER, 2013).
Entender a composição da equipe em uma interação Humano-SARs é muito importante,
principalmente no que diz respeito a compreender o papel de cada membro da equipe. Uma das
questões delicadas em relação aos papéis é a questão de autoridade (FEIL-SEIFER; MATARIC,
2011). Exemplificando, um robô em um papel de terapeuta pode exercer influência sobre o
usuário, colocando em questão quem está no controle da situação e da interação. A tecnologia
pode exigir um nível de autoridade para ser eficaz e um usuário que está se sentindo estressado
ou com dor deve se sentir à vontade para interromper um exercício, por exemplo, mesmo que
isso seja contrário ao conselho do robô. No entanto, o papel de um sistema SARs em muitos
contextos é dar direção a um usuário, exigindo alguma medida de autoridade derivada da
experiência. A falta de equilíbrio entre a autonomia do usuário e a autoridade do robô pode
criar um dilema ético (FEIL-SEIFER; MATARIC, 2011).
100
Modelos mentais compartilhados (Shared Mental Models)
Para que exista uma confiança apropriada de um humano em um robô, o humano precisa
compreender as capacidades e limitações do robô no contexto dos objetivos do robô em sua
missão em andamento (OSOSKY et al., 2013). A compreensão humana dos robôs como membros
da equipe pode ser examinada através das lentes dos modelos mentais (Mental Models - MM).
Os modelos mentais são representações internas usadas pelos humanos para entender o mundo
ao seu redor (CRAIK, 1943). Em seu trabalho Schaefer et al. (2016) afirmam que a forma como
um indivíduo molda um MM pode ser estruturado pelo impacto social, experiência anterior,
preconceitos culturais e crenças. Sendo os feedbacks gerados pelos sistemas utilizados para
atualizar esses modelos mentais (CUEVAS et al., 2007).
Assim sendo, os Modelos mentais compartilhados (Shared Mental Models - SMM), aplicam-
se especificamente ao trabalho em equipe como “estruturas de conhecimento realizada por
membros de uma equipe” (CONVERSE; CANNON-BOWERS; SALAS, 1993, p. 223). Eles devem
incluir a compreensão do equipamento relevante, a tarefa dos membros da equipe e a intera-
ção entre os membros da equipe. Especificamente, um robô autônomo inteligente (ex. robô
social) é único por ser “equipamento” e “Membro da equipe”. Portanto, o modelo mental de
um humano, companheiro de equipe do robô, como parte de um SMM, inclui conhecimento
sobre as capacidades, limitações e “personalidade” desse robô. Sendo influenciado por aparên-
cia, comportamento do robô, diálogo, traços de personalidade, linguagem e origem (KIESLER;
GOETZ, 2002; LEE et al., 2005). Assim, conclui-se que os modelos mentais são alavancados
internamente para orientar a interação humano-robô (LOHSE, 2011), incluindo confiança em
sistemas robóticos. A confiança nos robôs, como outros aspectos dos modelos mentais, é
continuamente refinada por meio da interação.
Impacto Social/Cultural (Cultural/Societal Impact)
No trabalho de Schaefer et al. (2016) os autores afirmam que o impacto social inclui
cultura, coesão da comunidade, sistema político, meio ambiente, saúde e bem-estar, direitos
de propriedades e medos e aspirações em matéria de segurança e futuro (CLAVELL; FROWD,
2014). Um dos principais desafios ao avaliar o HRI é prever o impacto social dos robôs (WEISS
et al., 2009).
Os autores de Weiss et al. (2009) propuseram um modelo de avaliação amplamente re-
101
conhecido que avalia a usabilidade, aceitação social, experiência do usuário e impacto social
(usability, social acceptance, user experience and societal impact) abreviado como USUS. O
USUS é baseado em um modelo de indicador multinível para operacionalizar os fatores de
avaliação. Os fatores de avaliação são descritos e divididos em vários indicadores, que são
extraídos e justificados por revisão da literatura. Os aspectos do impacto social que são obser-
vados, levando em conta as diferenças culturais, são a qualidade de vida, condições de trabalho
e emprego e educação. Weiss et al. (2009) define o impacto social como todo efeito de uma
atividade na vida social de uma comunidade.
Feil-Seifer e Mataric (2009) acredita que em domínios onde não existem alternativas de so-
luções econômicas para uma variedade de aplicações, e onde os sistemas de Interação Humano-
Robô fornecem uma solução nova e única, o potencial de criar um impacto social é grande;
sendo a saúde um desses domínios. Em Winkle et al. (2020), os autores sugerem que fatores
demográficos e sociais estão inerentemente ligados ao envolvimento do paciente. Portanto,
também são importantes ao considerar o uso de SARs na terapia.
Tendo concluído a descrição dos 4 fatores que fazem parte da subcategoria Colaboração em
Grupos a seguir descreveremos os 3 fatores que pertencem a subcategoria de Tarefa/Contexto.
3.3.3.2 Tarefa/Contexto (Task/Context)
Segundo Schaefer (2013) os fatores ambientais geralmente requerem uma interação humano-
robô dentro de um contexto específico. Por isso, a confiança é muitas vezes uma construção
dependente da tarefa que depende do Risco/incertezas, Contexto/Tipo de Tarefa/Com-
plexidade e do Ambiente físico. Por exemplo, Kidd (2003) descobriu que as tarefas colabo-
rativas geram classificações de confiança mais altas do que as tarefas de coleta de informações.
A natureza dessas tarefas pode ser afetada de forma diferente pelo ambiente físico e pelo risco
associado à tarefa específica.
Risco/Incerteza (Risk/Uncertainty)
O conceito de risco foi sintetizado pelos autores Aven e Renn (2009) na seguinte definição:
“risco refere-se à incerteza e gravidade dos eventos e consequências (ou resultados) de uma
atividade em relação a algo que os humanos valorizam” (AVEN; RENN, 2009, p. 6). Embora
realmente existam riscos inerentes na interação humano-robô (segurança, privacidade entre
102
outros), também existe a percepção de risco por parte do indivíduo, que não está relacionada
a presença real de riscos ou perigos no contexto, mas sim no modelo mental formulado (STUCK;
HOLTHAUSEN; WALKER, 2021).
Mayer, Davis e Schoorman (1995) relacionam que a confiança em um robô é moderada
pela quantidade de risco e incerteza percebida envolvido na interação. Schaefer (2013) afir-
mam que em robôs tanto os riscos derivados de fontes internas (por exemplo, corrupção de
dados), quanto riscos externo do ambiente (por exemplo, terreno físico) podem afetar o de-
senvolvimento da confiança. Em Lin, Bekey e Abney (2008) o risco foi associado como um
fator que tem um impacto direto na avaliação da segurança do sistema.
Stuck, Holthausen e Walker (2021) discutem que os riscos percebidos podem ser relaci-
onados tanto a percepção situacional, na qual representa uma crença sobre algo; quanto a
percepção relacional, que representa uma crença baseada em experiência ou histórico (ex. robô
já tem histórico de falhas, funcionamento inapropriado entre outros). Os autores relacionaram
a percepção de risco a alguns tópicos como: risco financeiro, risco de performance (relacionado
a execução de tarefas), risco físico, risco psicológico, risco social, risco de perda de tempo, risco
ético, risco de privacidade e risco de segurança (security ). Os detalhes do contexto também
são importantes para entender como o risco e a confiança interagem (STUCK; HOLTHAUSEN;
WALKER, 2021).
Contexto/Tipo de tarefa/Complexidade (Context/Task Type/Complexity)
Os autores de Cameron et al. (2015) sugerem que o contexto17 desempenha um papel

fundamental para medir a confiança em HRI. Como resultado de seu trabalho, os autores
propõe uma abordagem que enfatiza o contexto e a perspectiva do usuário como base para
futuras investigações sobre a confiança na Interação Humano-Robô.
Embora o contexto seja importante para a confiança, Salem et al. (2015b) enfatiza que em
muitos estudos a confiança é medida apenas em relação a um único contexto de tarefa, não
permitindo uma comparação caso os efeitos se desviem em uma tarefa ou situação diferente.
Portanto, um dos principais desafios ao investigar a confiança em HRI social é justamente pro-
jetar cenários de estudo que exijam confiança em um ambiente natural e realista, incorporando
idealmente uma variedade de tarefas que exploram diferentes dimensões da confiança (SALEM
et al., 2015b). Os fatores de confiança em SARs variam dependendo do contexto. Um exemplo
17
O contexto de SARs pode ser educação, terapia, reabilitação entre outros.
103
disso é o trabalho de Stuck e Rogers (2018), nele os autores demonstram que o contexto de
robôs prestadores de cuidados à idosos tem dimensões únicas relacionadas à confiança que
devem ser consideradas ao projetar robôs para tarefas home-care 18 .
O tipo da tarefa influencia o nível de confiança em robôs e também afeta a resposta ativa e o
engajamento dos indivíduos (KIDD, 2003; LI; RAU; LI, 2010). Além disso, ao considerar o domínio
da tarefa, muitos pesquisadores sugerem que deve haver uma consistência entre a aparência de
um robô e sua tarefa (GOETZ; KIESLER; POWERS, 2003; LOHSE; HEGEL; WREDE, 2008). Porém,
projetar uma aparência para o robô que corresponda à sua tarefa se torna muito complicado a
partir do momento que o robô funcionará possivelmente em ambiente internacional. Portanto,
o modelo mental das pessoas não só será influenciado pela aparência do robô, mas também
será mediado por sua bagagem cultural (LI; RAU; LI, 2010). O tipo e complexidade de uma
tarefa estão relacionadas a vários elementos, incluindo clareza, quantidade e a diversidade
envolvida dessa tarefa (LIU; LI, 2012)
Ambiente físico (Physical Environment)
Ambientes físicos podem incluir restrições climáticas, terreno, obstruções, obstáculos entre
outros. Kidd (2003) esclarece que um robô deve ter robustez suficiente para lidar com o
ambiente em que deve trabalhar. Acima de tudo, o ambiente em que o robô será usado deve
ser bem compreendido, pois as consequências das ações podem ser diferentes em diferentes
contextos e culturas (HANCOCK; BILLINGS; SCHAEFER, 2011). Os SARs podem ser usados nos
mais diversos ambientes, como em escolas, clínicas, hospitais, domicílios e etc. Compreender as
regras e restrições ambientais para que os robôs possam se adequar a elas é muito importante e
pode ajudar a desenvolver robôs que se adéquem mais ao ambiente. Por exemplo, no trabalho
de Meghdari et al. (2018) um robô social foi desenvolvido para uso em um hospital pediátrico
e durante o processo de projeto (design) do robô algumas regras e limitações do ambiente
hospitalar foram pensadas e levadas em consideração. No fim, essas considerações levaram a
limitação da velocidade do robô, redução de ruídos e restrição da largura máxima da base,
todas essas características podem impactar diretamente a interação do robô no ambiente.
18
Ato de prestar serviços de saúde na casa do paciente
104
Este capítulo apresentou um modelo de taxonomia adaptado das principais taxonomias da

área de Interação Humano-Robô e Automação, que pode ser usado na Robótica Socialmente
Assistiva. Os fatores de Confiança presentes nas 3 taxonomias (seção 3.2) foram investigados,
selecionados e contextualizados. A partir da análise dos fatores foi possível descobrir as relações
entre eles e como esses fatores afetam a interação em sistemas robóticos e também em SARs. A
taxonomia foi desenvolvida com o intuito de auxiliar na descoberta de requisitos de Confiança
do catálogo NFR4TRUST. A primeira sessão do capítulo realizou uma breve descrição do
conceito de taxonomia. A segunda seção elaborou sobre as principais taxonomias existentes
de Confiança. Por fim, a terceira seção focou em apresentar os fatores que compunham a
adaptação desse trabalho.
No próximo capítulo será apresentado o Catálogo de Requisitos Não-Funcionais para Robôs
Socialmente Assistivos chamado NFR4TRUST, bem como, todo o seu processo de construção.
105
4 NFR4TRUST - CATÁLOGO DE REQUISITOS NÃO-FUNCIONAIS PARA

Neste capítulo é apresentado o Catálogo de Requisitos Não-funcionais para Robôs social-

mente Assistivos, denominado NFR4TRUST. Inicialmente tecemos algumas observações para
deixar claro a que tipo de robô o catálogo de requisitos se destina. Em seguida descrevemos o
processo para construção do Catálogo NFR4TRUST. Por fim, é realizada uma discussão sobre
aspectos da abordagem proposta, além da síntese do capítulo.
4.1 OBSERVAÇÕES
Antes de começar o processo de construção do catálogo é necessário deixar claro alguns

pontos específicos dessa dissertação. Esses pontos dizem respeito a incorporação física do
robô, delimitação da morfologia, propriedades essenciais de um SARs e quanto aos fatores da
taxonomia.
• Quanto a incorporação (embodiment)
Alguns autores como Feil-Seifer e Matarić (2005) levantam uma problemática de projeto
(design) acerca da necessidade de um SARs em possuir uma forma física quando não
realiza tarefas que necessitem contato físico. Vale ressaltar que o tipo de incorporação
(física ou virtual) de um agente que preste assistência através da interação social pode
influenciar sua eficácia na interação social, na construção de relacionamento com o
usuário, aceitação e confiança (FASOLA; MATARIĆ, 2013).
Tapus, Matarić e Scassellati (2007) deixa claro que apesar dos Robôs Socialmente Assis-
tivos enfatizarem a interação social ao invés da interação física, a incorporação física
do robô é necessária para comunicar e interagir com os usuários de uma forma social
e envolvente. A presença física, aparência e o contexto compartilhado com o usuário
são fundamentais para criar um relacionamento envolvente de longo prazo entre SARs
e usuário (TAPUS; MATARIĆ; SCASSELLATI, 2007).
De acordo com a literatura, consideramos nessa dissertação que o SAR precisa ter uma
forma física e que essa forma impacta na confiança. Por isso, os requisitos relacionados
a estrutura do robô também foram considerados como Requisitos Não-Funcionais.
• Quanto a morfologia
106
O catálogo elaborado nessa dissertação diz respeito aos SARs do tipo antropomórfi-
cos. Estudos anteriores mostraram que o antropomorfismo afeta a confiança favoravel-
mente na automação (WAYTZ; HEAFNER; EPLEY, 2014) e nos robôs (EYSSEL et al., 2012;
MATHUR; REICHLING, 2009; TORTA et al., 2013). As pessoas geralmente favorecem robôs
que são mais antropomórficos, ou semelhante ao humano em aparência, personalidade
e comportamento (WALTERS et al., 2008).
• Quanto as propriedades essenciais de um SARs
Devido a grande quantidade de fatores presentes na taxonomia de confiança foi neces-

sário organizar as informações e definir alguns objetivos. Dessa forma, essa dissertação
levou em consideração a taxonomia de Feil-Seifer e Matarić (2005) (ver seção 2.2.2,
do capítulo 2) que descreve propriedades que os Robôs Socialmente Assistivos devem
possuir. O catálogo organizou essas propriedades como softgoals a serem atingidos e os
fatores de confiança foram relacionados a elas.
No processo de organização das informações algumas propriedades foram modificadas. A

propriedade Diálogo, passou a ser chamada de Comunicação para encaixar melhor outros
fatores da taxonomia de confiança. O quesito de Incorporação foi substituído pelo fator
de Aparência/Antropomorfismo, pois a sua definição agrega as características desse
fator exclusivamente. Por fim, foram acrescentados os fatores de Segurança (Safety) e
Privacidade como propriedades importantes dos SARs. No total foram elaboradas 14
propriedades como NFRs primários.
• Quanto aos fatores da taxonomia
Embora todos os fatores abordados na taxonomia (ver capítulo 3) sejam importantes

de alguma forma no processo de construção de confiança (trust), o foco desse catálogo
está principalmente nos fatores relacionados ao robô.
Na seção a seguir é discutido o processo de construção do catálogo.
4.2 PROCESSO DE CONSTRUÇÃO DO CATÁLOGO
A construção do catálogo foi realizada em um processo de 3 fases: Levantamento Inicial,

Desenvolvimento e Avaliação. A Figura 13 apresenta este processo, bem como o processo e as
107
fases e atividades realizadas através da notação desenvolvida pela Object Management Group
(OMG) : Business Process Modeling and Notation (BPMN).
Figura 13 – Fases e tarefas para a construção do catálogo
Conforme apresentado na Figura 13 foram realizadas 3 fases para o desenvolvimento do

catálogo que inclui 9 tarefas. A primeira fase realizada nesse processo é a de Levantamento
Inicial. Nela, através de uma revisão da literatura, foram encontradas taxonomias relevantes
de confiança, utilizadas como base para identificar fatores de confiança pertinentes a SARs
e criar uma taxonomia adaptada, contendo apenas o conjunto de fatores que caracterizam-
se como importantes para o domínio. Logo após, os requisitos foram coletados com base na
taxonomia de SARs e taxonomia de confiança para SARs, bem como suas definições, atributos
e/ou restrições.
Na segunda fase, a de Desenvolvimento, foi organizado os NFRs identificados, construído
o Catálogo de Requisitos Não-Funcionais. Na terceira fase, a de Avaliação, foi realizada uma
Prova de Conceito e a avaliação da Prova de Conceito com especialistas da área de NFR
Framework e HRI através de entrevistas e aplicação de um questionário com especialistas de
Engenharia de Requisitos para avaliar o Catálogo. Nas subseções a seguir cada uma das fases
e tarefas do processo são discutidas com mais detalhes.
108
4.2.1 Levantamento Inicial
A identificação dos Fatores de Confiança para SARs e adaptação da taxonomia foram

descritos no capítulo 3. As propriedades de SARs (taxonomia de Feil-Seifer e Matarić (2005))
foram discutidas anteriormente na seção 2.2.2 do capítulo 2. Essas taxonomias serviram como
base para identificar os Requisitos Não-Funcionais de Confiança para Robôs Socialmente As-
sistivos.
Como não foram encontrados trabalhos que abordem Requisitos Não-Funcionais de Con-
fiança no domínio de Robôs Socialmente Assistivos, os requisitos foram coletados a partir
da revisão da literatura feita para construir a taxonomia do capítulo 3, usando a técnica de
elicitação de requisitos de leitura de documentos (SOMMERVILLE, 2007) .
O objetivo da Revisão da Literatura foi identificar quais fatores influenciam a confiança
nesse domínio e qual o estado da arte no estudo desses fatores.
4.2.1.1 Tarefas 1, 2 e 3
As tarefas 1 e 2 foram realizadas no capítulo 3. Foram identificados para a taxonomia 30

fatores, sendo eles: Idade, Personalidade, Propensão de confiança, Controle da aten-
ção, Fadiga, Estresse, Experiências Prévias, Habilidade de uso, Expectativa, Ati-
tudes, Satisfação, Conforto, Modo de comunicação, Aparência/Antropomorfismo,
Nível de Automação, Inteligência, Personalidade do robô, Segurança/Privacidade,
Comportamento do robô, Confiabilidade/Erros, Feedback, Adaptabilidade, Proximi-
dade, Interdependência de papéis/tarefas, Composição de equipe, Modelos mentais
compartilhados e Impacto Social/Cultural.
As principais propriedades de SARs no que diz respeito à componentes de interação, são
descritas na taxonomia de Feil-Seifer e Matarić (2005) discutida no capítulo 2 (seção 2.2.2),
sendo elas: Incorporação, Emoção, Diálogo, Personalidade, Percepção orientada para
o ser humano, Modelagem de usuário, Aprendizagem Socialmente situada, Intenci-
onalidade, População de usuário, Exemplos de tarefas, Sofisticação de interação e
Papel do robô. Essas propriedades caracterizam os Robôs Socialmente Assistivos e devem
estar presentes em sua definição.
Com base nas definições da taxonomia de SARs, os fatores associados a eles foram defi-
nidos. Os 11 fatores associados ao robô foram quase todos relacionados a essas propriedades,
109
com exceção de segurança e privacidade que viraram softgoals primários, destacando sua im-
portância. Dos 8 fatores ambientais, 7 foram associados as propriedades e dos 12 fatores
humanos apenas 3 foram associados.
A Tabela 6 mostra como as 12 propriedades dos SARs estão associadas a 19 fatores
de confiança. Observar que fatores considerados estão relacionados ao ambiente, homem e
robô. Do Fator Ambiente foram: Interdependência de papéis/tarefas, Composição de
equipes, Impacto Social/Cultural, Risco/incerteza, Contexto/Tipo de tarefa/Com-
plexidade e Ambiente físico; do Fator Humano, tem-se: Idade, Experiências Prévias
e Habilidade de uso; do Fator Robô, foram: Modo de comunicação, Aparência/An-
tropomorfismo, Nível de Automação, Inteligência, Personalidade. Comportamento,
Confiabilidade(Reliability)/Erro, Feedback, Adaptabilidade e Proximidade.
Tabela 6 – Relação entre propriedades de SARs e Fatores de Confiança
Propriedades SARs Fatores da Taxonomia Associados:
Incorporação Aparência/Antropomorfismo
Emoção Modo de comunicação, Aparência/Antropomorfismo,
Personalidade do robô, Comportamento do robô
Modo de comunicação, Personalidade do robô,
Diálogo
Proximidade, Feedback, Confiabilidade/Erros
Aparência/Antropomorfismo, Personalidade do robô,
Personalidade
Comportamento do robô
Percepção orientada para o ser humano Nível de automação, Inteligência, Adaptabilidade
Modelagem de usuário Experiências prévias, Habilidade de uso
Aprendizagem Socialmente Situada Inteligência, Adaptabilidade
Intencionalidade Comportamento do robô, Confiabilidade/Erros
População de usuários Idade, Impacto Social/Cultural
Contexto/Tipo de tarefa/Complexidade,
Exemplos de tarefas Interdependências de papéis/tarefas, Risco/Incerteza,
Ambiente físico, Nível de Automação
Sofisticação da interação Modo de comunicação, Comportamento do robô, Feed-
back
Papel do robô Composição de equipe, Interdependência de papéis/tare-
fas

110
4.2.1.2 Coletar definições e atributos dos NFRs
As definições e atributos dos NFRs foram coletadas através da revisão da literatura realizada
no capítulo 3, sendo usados como fontes artigos, livros, monografias, teses, dissertações, etc.
É importante ressaltar que ainda existe uma lacuna em trabalhos de confiança associada a
Robótica Social e Robótica Socialmente Assistiva. Além disso, existem algumas divergências
de definições na área, o que torna difícil a coleta das definições dos atributos.
As definições dos Requisitos Não-Funcionais dizem respeito à descrição do que é aquele
requisito. Já seus atributos dizem respeito à características próprias daquele requisito, ou seja,
quais propriedades são necessárias a esse tipo de requisito. Por exemplo, o NFR de Usabilidade
de um determinado sistema possui a definição/descrição de que é um requisito que especifica a
interação final com o sistema e o esforço necessário para aprender, operar, preparar a entrada e
interpretar a saída do sistema (MAIRIZA; ZOWGHI; NURMULIANI, 2010). Já um dos seus atributos
para Sistemas Embarcados, segundo Silva (2019), é a Adaptabilidade, que é a capacidade de
um dispositivo em se adaptar às características específicas do usuário (HARVEY et al., 2011).
A seguir será discutido a fase de Desenvolvimento.
4.2.2 Desenvolvimento
Tendo concluído a primeira fase do processo de construção do catálogo, a segunda etapa no

processo é a de Desenvolvimento. Nessa etapa foram organizados os NFRs e feita a construção
do catálogo com o SIG. As subseções a seguir descrevem as tarefas relacionadas a organização
dos NFRs e a criação do Catálogo.
4.2.2.1 Organizar os NFRs
Nessa etapa foram organizados os NFRs associados as propriedades do SARs e os fatores de

confiança. Na Tabela 6 pode-se observar que os fatores de confiança podem estar relacionados a
mais de uma propriedade de SARs. Para estruturar melhor as informações foram feitas algumas
alterações.
1. Foi trocada a propriedade de Incorporação pelo fator Aparência/Antropomorfismo. Apa-

rência/Antropomorfismo passou a ser um softgoal ascendente (NFR primário).
111
2. Foi acrescentada a propriedade de Comunicação, no lugar de Diálogo. Segundo a taxono-

mia de Feil-Seifer e Matarić (2005), o diálogo é um processo conjunto de comunicação.
Portanto, usar a palavra comunicação, além de ser mais compreensível ainda relaciona-se
melhor com outros fatores. O diálogo passou a ser um refinamento de Comunicação.
3. Foram acrescentados os softgoals ascendentes de Segurança (Safety) e Privacidade.
4. Foi renomeado o termo Exemplos de tarefas para Tarefa/Contexto, pois se encaixa

melhor na descrição da propriedade.
Por fim, todos os fatores de confiança foram organizados de acordo com suas descrições
mais fortes e o resto de suas associações foram tratadas como correlações. Por exemplo,
Aparência/Antropomorfismo está associado a Incorporação, Emoção e Personalidade. Por sua
definição, ele foi associado a Incorporação, com correlações com Emoção e Personalidade.
4.2.2.2 Criação do Catálogo
Após organizar, renomear e acrescentar os NFRs relacionados as propriedades e fatores na

seção anterior, foi iniciada a criação do Catálogo de Requisitos Não-Funcionais, organizando
todos os NFRs encontrados nas etapas anteriores com suas definições, atributos e restrições.
Nesta tarefa, foi adotada a notação de NFR Framework proposta por (CHUNG et al., 2000),
realizando a construção de um Grafo de Interdependência de Softgoal (SIG) com os Requisitos
Não-Funcionais.
4.2.3 Avaliação
Na etapa de avaliação, foi ilustrado o uso do catálogo através de uma Prova de Con-
ceito e avaliada com 2 especialistas das respectivas áreas de NFR Framework e Interação
Humano-Robô através de entrevista, bem como a avaliação do catálogo por 20 Engenheiros
de Requisitos através de questionário. O detalhamento sobre a aplicação das avaliações e os
resultados obtidos serão discutidos no capítulo 5.
112
4.2.3.1 Aplicação da Prova de Conceito
Na tarefa 7, o catálogo foi aplicado na elicitação e especificação de um trabalho (LINS,

2021) que usa um Robô Socialmente Assistivo utilizado para auxiliar na reabilitação motora de
membros superiores. Esta aplicação foi realizada em conjunto com a autora de (LINS, 2021).
Seu processo será discutido na seção 5.1 do capítulo 5.
4.2.3.2 Avaliação Prova de Conceito com Especialistas
Na tarefa 8, os artefatos gerados na Prova de Conceito foram avaliados. A avaliação foi

realizada por um especialista de NFR Framework para verificar o uso da notação e outro
especialista de Interação Humano-Robô para verificar a consistência dos conceitos quanto ao
domínio de SARs. Esse processo é discutido na seção 5.1.5 do capítulo 5.
4.2.3.3 Avaliação do catálogo através de um questionário aplicado a Engenheiro de Requi-

sitos
Na tarefa 9 foi realizada uma avaliação com 20 especialistas acadêmicos da área de Enge-
nharia de Requisitos. Essa avaliação buscou analisar vários aspectos sobre relevância e utilidade
do catálogo. Esse processo é discutido na seção 5.2 do capítulo 5.
Na seção a seguir será apresentado o Catálogo construído.
4.3 O CATÁLOGO
Nesta seção, será apresentado o NFR4TRUST, o nosso Catálogo de Requisitos Não-

Funcionais de Confiança para Robôs Socialmente Assistivos. O catálogo apresenta ao todo
124 requisitos. Com ele, visamos auxiliar engenheiros de requisitos e projetistas de Robôs So-
cialmente Assistivos, apresentando as questões que têm impacto na confiança do usuário e
que devem ser levadas em consideração em projetos desse domínio, em concordância com a
literatura.
O catálogo abrange:
• Um SIG mostrando a hierarquia dos requisitos;

113
• Uma Tabela mostrado as correlações dos requisitos primários;
• As definições de cada requisito.
A Figura 14 apresenta o catálogo através de um Grafo de Interdependência de Softgoal

- Softgoal Interdependency Graph (SIG). São apresentados, através de softgoals NFR, os
Requisitos Não-Funcionais relacionados às Propriedades dos SARs e relacionados à Confiança
que foram coletados no processo de construção do catálogo. Estes softgoals são representados
através de nuvens claras e com os tipos de contribuição ’AND’, HELP (+) e HURT (-) entre
os softgoals.
Vale ressaltar a relevância das correlações em um gafo SIG, já que essas correlações visam
demonstrar o impacto que um NFR pode causar em outro. Porém, devido a grande quantidade
de softgoals a notação SIG apresenta uma baixa legibilidade. Por isso, na Figura 14 essas
correlações não são representadas na imagem, elas podem ser encontradas na forma de listagem
na Tabela 7. Além disso, essas correlações são representadas nos fragmentos da Figura 14,
que são as Figuras (15, 17, 19, 20, 22, 21, 23, 24, 25, 26, 28, 27, 29, 30), mostrando visões
parciais do SIG com correlações referentes a cada NFR individualmente.
As correlações apresentadas na Tabela 7 foram definidas com base na taxonomia de (FEIL-
SEIFER; MATARIĆ, 2005) e com base na literatura encontrada na contextualização dos fatores
no capítulo 3. As correlações apresentadas na Tabela 7 são do tipo desconhecida (unknown),
sendo o simbolo (?) utilizado na tabela para representar essa correlação, do tipo positiva (+)
e do tipo negativa (-). Devido o caráter subjetivo dos fatores de confiança, essas correlações
podem ser voláteis. Por isso, as correlações representadas na tabela não constituem uma
imagem definitiva e completa da área e, sim, a visão parcial a partir do material de referência.
Na Figura 14, é apresentado o SIG parcial, mostrando apenas a hierarquia dos requisitos.
Os softgoals primários foram destacados em verde (propriedades do SARs) e em rosa (fatores
de Confiança) para melhorar a visualização.
Figura 14 – Grafo SIG Parcial com NFRs de Confiança para SARs (Sem correlações)

114
115
Tabela 7 – Listagem das Correlações do SIG

Aparência/Antropomorfismo (ver Figura 15)
Aparência/Antropomorfismo causa um impacto desconhecido (?) em Emoção
Aparência/Antropomorfismo causa um impacto desconhecido (?) em Segurança (Safety)
Aparência/Antropomorfismo causa um impacto positivo (+) em Personalidade (Robô)
Aparência/Antropomorfismo causa um impacto desconhecido (?) em Papel do robô
Aparência/Antropomorfismo causa um impacto desconhecido (?) em População do usuário
Aparência/Antropomorfismo causa um impacto positivo (+) em Percepção Orientada para o ser humano
Aparência/Antropomorfismo causa um impacto positivo (+) em Intencionalidade
Comunicação (ver Figura 17)
Comunicação causa um impacto positivo (+) em Personalidade (Robô)
Comunicação causa um impacto positivo (+) em Emoção
Comunicação causa um impacto desconhecido (?) em Papel do Robô
Comunicação causa um impacto desconhecido (?) em Privacidade
Comunicação causa um impacto positivo (+) em Aparência/Antropomorfismo
Comunicação causa um impacto positivo (+) em Intencionalidade
Emoção (ver Figura 19)
Emoção causa um impacto positivo (+) em Comunicação
Emoção causa um impacto positivo (+) em Intencionalidade
Emoção causa um impacto positivo (+) em Personalidade (Robô)
Emoção causa um impacto positivo (+) em Aparência/Antropomorfismo
Sofisticação de Interação (ver Figura 20)
Sofisticação de Interação causa um impacto positivo (+) em Comunicação
Sofisticação de Interação causa um impacto positivo (+) em População de usuários
Sofisticação de Interação causa um impacto positivo (+) em Aprendizagem Socialmente Situada
Aprendizagem Socialmente Situada (ver Figura 21)
Aprendizagem Socialmente Situada causa um impacto positivo (+) em Intencionalidade
Aprendizagem Socialmente Situada causa um impacto positivo (+) em Comunicação
Aprendizagem Socialmente Situada causa um impacto positivo (+) em Emoção
Percepção orientada para o ser humano (ver Figura 22)
Percepção orientada para o ser humano causa um impacto (+) em Comunicação
Percepção orientada para o ser humano causa um impacto (-) em Privacidade
Percepção orientada para o ser humano causa um impacto (+) em Segurança (Safety)
Percepção orientada para o ser humano causa um impacto (+) em Intencionalidade
Percepção orientada para o ser humano causa um impacto (+) em Aprendizagem Socialmente Situada
Privacidade (ver Figura 23)
Privacidade causa um impacto negativo (-) em Segurança (Safety)
Privacidade causa um impacto negativo (-) em Sofisticação de interação
Privacidade causa um impacto negativo(-) em Percepção orientada para o ser humano
Segurança (Safety) (ver Figura 24)
Segurança (Safety) causa um impacto negativo (-) em Privacidade
Segurança (Safety) causa um impacto negativo (-) em Aparência/Antropomorfismo
Segurança (Safety) causa um impacto positivo (+) em População de usuários
Personalidade (ver Figura 25)
Personalidade (Robô) causa um impacto positivo (+) em Intencionalidade
Personalidade (Robô) causa um impacto desconhecido (?) em População de usuários
Intencionalidade (ver Figura 26)
Intencionalidade causa um impacto positivo (+) em Aparência/Antropomorfismo
Intencionalidade causa um impacto positivo (+) em Papel do robô
Intencionalidade causa um impacto positivo (+) em Personalidade (Robô)
Intencionalidade causa um impacto positivo (+) em Emoção
Intencionalidade causa um impacto positivo (+) em Segurança (Safety)
Papel do robô (ver Figura 27)
Papel do robô causa um impacto positivo (+) em Aparência/Antropomorfismo
Papel do robô causa um impacto desconhecido (?) em Sofisticação de interação
Papel do robô causa um impacto desconhecido (?) em Comunicação
Papel do robô causa um impacto positivo (+) em Intencionalidade
Tarefas/Contexto (ver Figura 28)
Tarefas causa um impacto positivo (+) em Aparência/Antropomorfismo
Tarefas causa um impacto positivo (+) em Papel do robô
Tarefas causa um impacto desconhecido (?) em Segurança (Safety)
Modelagem de usuário (ver Figura 29)
Modelagem de usuário causa um impacto negativo (-) em Privacidade
Modelagem de usuário causa um impacto positivo (+) em Intencionalidade
Modelagem de usuário causa um impacto positivo (+) em Sofisticação de interação
Modelagem de usuário causa um impacto positivo (+) em Percepção orientada para o ser humano
População de usuários (ver Figura 30)
População de usuários causa um impacto positivo (+) em Papel do robô
População de usuários causa um impacto positivo (+) em Tarefas/Contexto

116
As correlações geralmente são representadas através de linhas pontilhadas com o sinal

(-) para expressar correlações negativas, as linhas pontilhadas com o sinal (+) expressam as
correlações positivas e as linhas pontilhadas com a palavra (unknown) indicam uma correlação
desconhecida que pode ser positiva ou negativa dependendo do contexto ou outros fatores de
confiança em questão.
Nas subseções a seguir serão apresentados os requisitos do catálogo, com suas definições
e seus atributos ou restrições. Os Requisitos de Aparência/Antropomorfismo e Comunicação
foram representados devido ao tamanho, de duas formas diferentes. A primeira contendo as
correlações com os demais NFRs e apenas seus atributos imediatos sem mais detalhamento
(15, 17) e a segunda representando os atributos e subatributos de maneira completa (16,
18). Os demais NFRs foram representados com as correlações e todos os seus atributos e
subatributos. Nem todos os atributos serão descritos.
4.3.1 Aparência/Antropomorfismo
Definição: A forma e a estrutura do robô, ou seja, sua aparência, são importantes para
estabelecer expectativas sociais (FONG; NOURBAKHSH; DAUTENHAHN, 2003). O antropomor-
fismo, segundo Duffy (2003), é a tendência que o ser humano tem de atribuir características
humanas a objetos inanimados, animais e outros. O conceito de antropomorfismo também
tem um impacto importante na interação Humano-Robô. A Figura 15 expressa as correlações
do Requisito Não-Funcional de Aparência/Antropomorfismo.
Ao projetar um Robô Socialmente Assistivo, a aparência geral do robô muda de acordo com
o contexto/tarefa de sua utilização. Muitas vezes são projetados e arquitetados de acordo com
o ambiente e a população de usuários que irão utilizá-lo, embora o mais importante a se con-
siderar é que sua forma física possa cumprir a expectativa evocada no usuário (DUFFY, 2003).
Dito isso, as características físicas do robô e seu nível de antropomorfismo vão ser de suma
importância para a confiança, principalmente as características que permitem incrementar a
parte social do robô e suas percepções.
Fontes de evidência na literatura: (FONG; NOURBAKHSH; DAUTENHAHN, 2003; DUFFY,
2003; BARTNECK et al., 2009a; SCHAEFER, 2013; PAPADOPOULOS et al., 2020)
Atributos: Capacidade funcional e Características físicas.
Os atributos descritos a seguir devem ser analisados de forma a contribuir positivamente
para a Aparência/Antropomorfismo e suas correlações.
117
Figura 15 – Requisito de Aparência/Antropomorfismo - contribuições e correlações
A Figura 15 apresenta uma contribuição HELP (+) do atributo Capacidade funcional para
o requisito Aparência/Antropomorfismo e uma contribuição ’AND’ do atributo Características
físicas para Aparência/Antropomorfismo. Além disso, também são apresentados quatro corre-
lações ’unknown’ para os requisitos Emoção, Segurança (Safety ), Papel do robô e População
de usuário, e três correlações positivas (+) para os requisitos de Personalidade, Percepção
Orientada para o ser humano e Intencionalidade. Essas correlações representam os impactos
que a Aparência/Antropomorfismo causa nestes requisitos.
Na Figura 16, são mostrados os refinamentos do NFR de Aparência/Antropomorfismo.
• Capacidade funcional: diz respeito à capacidade do robô de executar ações e tarefas

em detrimento de suas limitações tecnológicas e de projeto.
Fontes de evidência na literatura: (FONG; NOURBAKHSH; DAUTENHAHN, 2003; GO-

ETZ; KIESLER; POWERS, 2003; DUFFY, 2003; SCHAEFER, 2013)
Atributos: Manipulação de objetos, Mobilidade, Movimentos biológicos realistas.
– Manipulação de objetos: é a capacidade do robô de manusear/manejar certos

objetos no ambiente.
Fontes de evidência na literatura: (FONG; NOURBAKHSH; DAUTENHAHN, 2003;

SCASSELLATI; ADMONI; MATARIĆ, 2012)
Atributos: Tração nas articulações.

118
Figura 16 – Requisito de Aparência/Antropomorfismo - Refinamentos
∗ Tração nas articulações: força presente nos mecanismos (juntas/motores/ar-

ticulações) exercida sobre algo.
Fontes de evidência na literatura: (ONNASCH; HILDEBRANDT, 2021)
– Mobilidade: é a capacidade do robô de movimentar-se pelo ambiente, seja pela

locomoção de sua base ou pela movimentação de seus apêndices.
Fontes de evidência na literatura: (FERRATÉ; BASAÑEZ, 1985; FONG; NOUR-

BAKHSH; DAUTENHAHN, 2003; PINO et al., 2015; MCGINN et al., 2020)
Atributos: Equilíbrio, Estabilidade, Controle.
∗ Equilíbrio: é a capacidade de posição estável de um corpo, sem oscilações ou

desvios.
Fontes de evidência na literatura: (CHEW et al., 2010)
∗ Estabilidade: é a capacidade de determinadas estruturas se manterem firmes

119
e fortes, permitindo assim a mobilidade de outras.

Fontes de evidência na literatura: (MEGHDARI et al., 2018; ISO/TR 23482-
1:2020, 2020)
∗ Controle: é a capacidade de precisão com que é realizado cada movimento.
Fontes de evidência na literatura: (FERRATÉ; BASAÑEZ, 1985)
– Movimentos biológicos realistas: é a capacidade do robô de realizar certos mo-

vimentos biológicos (andar, movimentar braços, expressões faciais e etc.) baseados
o mais próximo possível em movimentos realizados por entidades biológicas reais.
Fontes de evidência na literatura: (SCASSELLATI; ADMONI; MATARIĆ, 2012)
Atributos: Graus de liberdade (Degree of Freedom - DOF) dos movimentos, Faixa
de ângulos articulares.
∗ Graus de liberdade (Degree of Freedom - DOF) dos movimentos: o

número mínimo de coordenadas independentes necessárias para descrever a
posição de um sistema.
Fontes de evidência na literatura: (FONG; NOURBAKHSH; DAUTENHAHN,
2003; PERRE et al., 2019)
∗ Faixa de ângulos articulares: grau de amplitude dos movimentos referente
a quantidade de movimento de uma articulação.
Fontes de evidência na literatura: (BREAZEAL et al., 2004; PERRE et al.,
2019)
• Características físicas: são as qualidades exteriores de um ser. As características de-

vem estar de acordo com a capacidade funcional, contexto, tarefa e deve evitar gerar
expectativas exageradas no usuário.
Fontes de evidência na literatura: (SIMS et al., 2005a; FEIL-SEIFER; MATARIĆ, 2008)
Atributos: Apêndices, Nível de realismo, Características Faciais, Tamanho, Tipo de

material, Tipo de antropomorfismo, Idade aparente, Tipos de bordas, Durabilidade.
– Apêndices: um apêndice é qualquer estrutura que se projeta para fora do corpo.

Fontes de evidência na literatura: (SIMS et al., 2005a)
Atributos: Braço, Cabeça, Base, Tronco
∗ Braço: a presença e quantidade de estruturas no braço do robô, depende

do tipo de antropomorfismo e das tarefas que serão executadas pelo robô. A
120
presença de braços auxilia a percepção do robô como uma entidade social,

além de ajudar nas expressões corporais.
Fontes de evidência na literatura: (SHIN; KWAK; KIM, 2008; SIMS et al.,
2005a; FEIL-SEIFER; MATARIĆ, 2008)
Atributos: Mão.
· Mão: a presença de mão(s) e sua forma está relacionada com as tarefas

que o robô executa e o aumento do nível de antropomorfismo do mesmo.
Esse atributo é importante para a percepção social. Por exemplo, o toque
social, como apertar as mãos, pode afetar o quão persuasivo um robô é
percebido.
Fontes de evidência na literatura: (SHIN; KWAK; KIM, 2008; BREAZEAL;
DAUTENHAHN; KANDA, 2016; AZIZ et al., 2015; LANGER et al., 2019)
∗ Cabeça: a cabeça além de ser um recurso estético, desempenha um papel

crucial na comunicação. Para que os robôs interajam com eficiência com hu-
manos é desejável que tenham a capacidade para se engajar na comunicação
não-verbal através de pistas visuais, sendo o rosto (expressão facial) o maior
recurso para que os robôs interajam com as pessoas de forma natural e crível.
Fontes de evidência na literatura: (SHIN; KWAK; KIM, 2008; MCGINN et al.,
2020; MCGINN, 2020)
Atributos: Material, Peso.
· Material: diz respeito ao tipo de material de construção da cabeça do

robô (display, componentes mecânicos, pele sintética, etc).
Fontes de evidência na literatura: (MOKHTARI; SHARIATI; MEGHDARI,
2019)
· Peso: diz respeito à distribuição equilibrada do peso da cabeça.

Fontes de evidência na literatura: (LÜTKEBOHLE et al., 2010)
∗ Base: é a estrutura dos membros inferiores e representa uma estrutura impor-

tante para mobilidade e execução das tarefas dos robôs.
Fontes de evidência na literatura: (SHIN; KWAK; KIM, 2008; CHEW et al.,
2010)
Atributos: Tipo, Forma.
· Tipo: diz respeito ao tipo de mobilidade do robô (base fixa ou móvel).

121
· Forma: diz respeito à forma da estrutura da base (pernas, rodas, etc).

Fontes de evidência na literatura: (SHIN; KWAK; KIM, 2008; CHEW et
al., 2010)
∗ Tronco: é a estrutura física do robô que sustenta os apêndices.

Fontes de evidência na literatura: (MCGINN et al., 2020)
– Nível de realismo: diz respeito ao quão próxima é a aparência do robô da apa-

rência humana.
Fontes de evidência na literatura: (DUFFY, 2003; GOODRICH; SCHULTZ, 2007;

MURPHY et al., 2010; CUCCINIELLO et al., 2021)
Atributos: The Uncanny Valley
∗ The Uncanny Valley: O vale da estranheza é um termo usado para descre-

ver a relação entre a aparência/comportamento muito humano de um objeto
robótico e a resposta emocional de repulsa que ele evoca.
Fontes de evidência na literatura: (DUFFY, 2003; GOODRICH; SCHULTZ,
2007; MURPHY et al., 2010; CUCCINIELLO et al., 2021)
– Características Faciais: as características presentes na face do robô. Essas ca-

racterísticas devem permitir expressar aspectos da comunicação social. Os robôs
devem ser capazes de fornecer feedback emocional por meio de expressões faciais.
Fontes de evidência na literatura: (MCGINN, 2020)
Atributos: Olhos, Boca.
∗ Olhos: os olhos são uma característica social muito importante e tem que
estar presente na face do robô.
Fontes de evidência na literatura: (SIMS et al., 2005b)
Atributos: Cor, Distância, Tamanho, Formato.
· Cor: diz respeito à cor ou cores que os olhos podem representar.

· Distância: diz respeito à distância entre os olhos.

· Tamanho: diz respeito ao tamanho dos olhos.

122
· Formato: diz respeito ao formato que olhos possuem (redondo, quadrado,

etc).
∗ Boca: A boca é indicador de característica social e sua presença torna a face

menos desconfortável para o usuário.
Fontes de evidência na literatura: (MCGINN, 2020)
– Tamanho: diz respeito ao Tamanho do robô. O robô deve ser adequado ao con-
texto e tarefa que irá executar e não deve gerar desconforto no usuário.
Fontes de evidência na literatura: (DUFFY, 2003; CABIBIHAN et al., 2013; SCHA-

EFER, 2013; PINO et al., 2015)
– Tipo de material: diz respeito ao material de fabricação do robô. O material

usado no robô tem que ser seguro e não deve causar sentimentos de repulsa no
usuário.
Fontes de evidência na literatura: (BJÖRKLUND, 2018; RINCÓN et al., 2022)
Atributos: Construção, Revestimento estético.
∗ Construção: diz respeito ao material utilizado na construção da estrutura

física do robô.
Fontes de evidência na literatura: (RINCÓN et al., 2022)
Atributos: Atóxico, Resistente, Leve, Não-inflamável.
· Atóxico: é a característica que define que o material do robô não deve

ser nocivo a saúde.
Fontes de evidência na literatura: (LI; JIA; FENG, 2016)
· Resistente: diz respeito ao quão resistente a adversidades do ambiente e

interação é o material de construção do robô .
Fontes de evidência na literatura: (RINCÓN et al., 2022)
· Leve: diz respeito ao quão leve é o material de construção da estrutura

do robô.
Fontes de evidência na literatura: (GORIS et al., 2011)
· Não-inflamável: é a característica que define que o robô não deve ser

inflamável, ou seja, que não haja a facilidade de combustão.
123
∗ Revestimento estético: diz respeito ao material usado para revestir a estru-

tura e/ou peças do robô, seja por questões de segurança, interação ou por
estética.
Fontes de evidência na literatura: (YAMASHITA et al., 2019)
– Tipo de antropomorfismo: diz respeito à qual tipo de aparência o robô mais

se assemelha (humanoide, androide etc). Essa característica influencia as outras
dentro de aparência/antropomorfismo.
Fontes de evidência na literatura: (CABIBIHAN et al., 2013)
– Idade aparente: diz respeito à idade que a aparência do robô aparenta. É uma
questão de estereótipo que pode influenciar as atitudes e o sentimento de conforto
do humano/usuário em relação ao robô, dependendo da faixa etária.
Fontes de evidência na literatura: (LIU; YI; WAN, 2022)
– Tipos de bordas: diz respeito à quais tipos de bordas o robô tem, do tipo chan-
fradas (redondas) ou mais quadradas. Isso influencia a parte estética do robô e
também a segurança.
Fontes de evidência na literatura: (SIMS et al., 2005a; ISO 13482:2014, 2014)
– Durabilidade: diz respeito à capacidade física do robô em preservar as suas ca-

racterísticas funcionais sem necessitar de manutenção ou reparações excessivas.
Fontes de evidência na literatura: (ISO 13482:2014, 2014)
4.3.2 Comunicação
Definição: A comunicação do robô é um processo que envolve a troca de informações do

robô para o usuário e trata-se de um processo social primário, que permite criar mensagens
que provocam uma resposta. A comunicação em termos de precisão, feedback, dicas, modos e
acesso à informação é essencial para o desenvolvimento da confiança (SCHAEFER et al., 2014).
Fontes de evidência na literatura: (SCHAEFER et al., 2014)
A Figura 17 expressa as correlações do Requisito Não-Funcional de Comunicação. Ao
projetar um Robô Socialmente Assistivo a Comunicação do robô para o usuário é muito
importante. Ela pode influenciar varias outras características como personalidade, emoção,
Antropomorfismo entre outras, tendo impacto direto na interação com o usuário.
124
Figura 17 – Requisito de Comunicação - contribuições e correlações
A Figura 17 apresenta seis Contribuições ’AND’ entre os atributos Feedback, Modo de

comunicação, Confiabilidade, Precisão, Proximidade e Troca de turno para o requisito Co-
municação. Além disso, são apresentadas duas correlações desconhecidas ’unknown’ para os
requisitos de Papel do robô e Privacidade e quatro correlações positivas (+) para os requisitos
Personalidade, Emoção, Aparência/Antropomorfismo e Intencionalidade.
Na Figura 18 são mostrados os refinamentos do NFR de Comunicação.
Atributos: Feedback, Modo de comunicação, Confiabilidade, Precisão, Proximidade, Troca
de turno.
• Feedback: diz respeito ao retorno da informação ou do processo, feito do robô para o

usuário. Esse retorno pode ser relacionado ao estado interno do robô (ex. erros, nível de
bateria entre outros) ou pode ser relacionado a tarefas (ex. monitorar performance do
usuário).
Fontes de evidência na literatura: (SCHAEFER, 2013; LANGER et al., 2019; TSIAKAS;

ABUJELALA; MAKEDON, 2018)
Atributos: Disponibilidade, Alarme, Transparência.
– Disponibilidade: diz respeito às informações que podem ser compartilhadas quando

requisitadas.
Fontes de evidência na literatura: (BITAN; MEYER, 2007)

125
Figura 18 – Requisito de Comunicação - Refinamentos
– Alarme: diz respeito à capacidade do robô em emitir alertas sobre algum estado
interno/externo.
Fontes de evidência na literatura: (HANCOCK et al., 2011)
Atributos: Tipo, Sensibilidade.
∗ Tipo: diz respeito à qual forma (visual ou auditivo) o alarme está sendo
emitido.
Fontes de evidência na literatura: (GUPTA; BISANTZ; SINGH, 2002; WIC-
KENS et al., 2009)
∗ Sensibilidade: diz respeito às característica de configuração do alarme.

Fontes de evidência na literatura: (GUPTA; BISANTZ; SINGH, 2002; WIC-
KENS et al., 2009)
Atributos: Frequência, Duração.
· Frequência: diz respeito ao número de ocorrências de um determinado

126
alerta em um determinado intervalo de tempo. Uma alta frequência de um

determinado alarme pode ser considerado alarme falso ou desnecessário.
Fontes de evidência na literatura: (GUPTA; BISANTZ; SINGH, 2002;
WICKENS et al., 2009)
· Duração: diz respeito à quantidade de tempo em que o alarme continua
sendo emitido.
Fontes de evidência na literatura: (GUPTA; BISANTZ; SINGH, 2002;
WICKENS et al., 2009)
– Transparência: diz respeito à se, com as informações compartilhadas pelo robô,

é possível transmitir as suas intenções de forma que o usuário consiga entender o
que o sistema está fazendo e por que está fazendo.
• Modo de comunicação diz respeito à forma em que o robô sinaliza as informações

processadas (ex. visual, auditiva, entre outros).
Fontes de evidência na literatura: (SARTER, 2006; TAPUS; MATARIĆ; SCASSELLATI,

2007; HANCOCK et al., 2013; SCHAEFER et al., 2014; HOFF; BASHIR, 2015)
Atributos: Verbal, Não-Verbal.
– Verbal: diz respeito à toda passagem de informações por meio de linguagem escrita
ou falada.
Fontes de evidência na literatura:(TAPUS; MATARIĆ; SCASSELLATI, 2007)
Atributos: Auditiva.
∗ Auditiva: diz respeito à comunicação por emissão de som.

Fontes de evidência na literatura: (STEDMON et al., 2007; FEIL-SEIFER;
MATARIC, 2011; NIKOLAIDIS et al., 2018)
Atributos: Diálogo, Voz.
· Diálogo: diz respeito à construção de uma conversa entre o usuário hu-
mano e o robô.
Fontes de evidência na literatura: (BABEL et al., 2021)
Atributos: Conteúdo, Iniciativa.
· Conteúdo: diz respeito ao tipo de informação que está sendo transmitida
através do diálogo.
127

Atributos: Conversa fiada, Conversa relacionada a tarefa.
· Conversa fiada diz respeito à capacidade do robô em manter uma con-
versa sobre coisas que não são importantes (ex. cores, clima, etc) afim de
construir a confiança e relacionamento com o usuário.
· Conversa relacionada a tarefa diz respeito à transmissão de informações
relacionadas a tarefas/objetivos/ações, possuem um propósito prático.
· Iniciativa: diz respeito à quem pertence a ação de iniciar o diálogo,

humano ou robô. Quando a primeira interação é relacionada com uma
tarefa, a iniciativa do robô leva a mais confiança. Ademais, esse atributo
depende dos fatores humanos.
· Voz: diz respeito à um atributo no qual o recurso de voz do robô deve ser
consistente com sua aparência/Antropomorfismo e também deve permitir
que o usuário a personalize.
2003; PINO et al., 2015; CUCCINIELLO et al., 2021)
Atributos: Tom, Tipo.
· Tom: diz respeito à qualidade de um som regida pela taxa de vibrações
que o produzem e sua altura. A velocidade do tom de voz pode ajudar a
expressar emoções.
Fontes de evidência na literatura: (FEIL-SEIFER; MATARIC, 2011; LOUIE;
MCCOLL; NEJAT, 2014)
· Tipo: diz respeito à característica da voz em ser mais parecida com a voz
humana ou voz sintética.
Fontes de evidência na literatura: (STEDMON et al., 2007; FEIL-SEIFER;
MATARIC, 2011)
– Não-Verbal: diz respeito à passagem de informações que não é feita com fala
verbal ou com a escrita.
Fontes de evidência na literatura: (TAPUS; MATARIĆ; SCASSELLATI, 2007)
128
Atributos: Tátil, Gestos, Olhos.
∗ Tátil: diz respeito à capacidade do robô em usar a forma de comunicação

através do toque. Esse tipo de comunicação pode ser utilizada para estimular
um vínculo afetivo, ou pode ser usada para interações com usuários com
cegueira ou surdocegueira.
Fontes de evidência na literatura: (TAPUS; MATARIĆ; SCASSELLATI, 2007;
ANDREASSON et al., 2018)
∗ Gestos: diz respeito à capacidade do robô em se comunicar por meio da

linguagem corporal (movimentos de braços, cabeça, mãos, etc).
Fontes de evidência na literatura: (TAPUS; MATARIĆ; SCASSELLATI, 2007;
SCASSELLATI; ADMONI; MATARIĆ, 2012; SARTORATO; PRZYBYLOWSKI; SARKO,
2017)
∗ Olhar: diz respeito à capacidade do robô de comunicação pelo olhar (rastrear

o movimento do usuário para mostrar que está prestando atenção, mudar cor
de LEDs para indicar estado emocional, etc). O olhar é a principal fonte de
comunicação entre os seres humanos e a sua utilização tem uma influência
positiva na interação social.
Fontes de evidência na literatura: (KIDD; BREAZEAL, 2004; BREAZEAL,
2004; STANTON; STEVENS, 2014; BABEL et al., 2021)
• Confiabilidade: diz respeito à capacidade do robô de consistência na entrega de infor-

mações ao usuário (em ordem, sem perdas e sem repetições).
• Precisão: diz respeito à capacidade do robô em prover informações verdadeiras ou

corretas, inclusive em pequenos detalhes.
Fontes de evidência na literatura: (STEDMON et al., 2007; SCHAEFER et al., 2014)
• Proximidade: é uma restrição de espaço interpessoal entre pessoas ou agentes. A pro-

ximidade física e de comunicação é uma importante característica da interação social.
Fontes de evidência na literatura: (TAPUS; MATARIĆ, 2008; PERRY et al., 2013; LAU-
GIER, 2015; LEICHTMANN; NITSCH, 2020)
Atributos: Distância de interação.

129
Distância de interação: é a restrição de distância necessária para a comunicação entre

robô e usuário de forma que o usuário se sinta confortável.
Fontes de evidência na literatura: (PERRY et al., 2013)
• Troca de turnos: diz respeito à capacidade de realizar trocas interativas na comuni-

cação com um parceiro social, aguardando a resposta e/ou a solicitação deste parceiro,
favorecendo uma interação.
Fontes de evidência na literatura: (FONG; NOURBAKHSH; DAUTENHAHN, 2003; DAU-

TENHAHN, 2007; SCASSELLATI; ADMONI; MATARIĆ, 2012; CABIBIHAN et al., 2013)
4.3.3 Emoção
Definição: as emoções são importantes nas interações humanas e nos robôs elas ajudam
a facilitar uma interação mais crível entre homem-robô. A Figura 19 expressa as contribuições
e correlações do requisito de emoção.
Fontes de evidência na literatura: (FEIL-SEIFER; MATARIĆ, 2005; TAPUS; MATARIĆ; SCAS-
SELLATI, 2007; TAPUS; MATARIĆ, 2008; LAW; CHITA-TEGMARK; SCHEUTZ, 2021)
Figura 19 – Requisito de Emoção - contribuições e correlações
A Figura 19 apresenta contribuições ’AND’ entre os atributos Postura emocional, Ex-

pressões faciais e Emocionalmente inteligente e seus sub-atributos para o requisito Emoção.
130
Também são apresentadas quatro correlações positivas (+) para os requisitos de Comunicação,
Intencionalidade, Personalidade e Aparência/Antropomorfismo.
Atributos: Postura emocional, Expressões faciais, Emocionalmente inteligente.
• Postura emocional: diz respeito à capacidade do robô em reproduzir posturas com o

corpo que indiquem certas emoções e estados.
Atributos: Movimento no plano, Ângulos das juntas.
– Movimento no plano: diz respeito à posição, velocidade e aceleração dos movi-

mentos do corpo do robô que expressão emoções distintas.
Fontes de evidência na literatura: (MCCOLL; NEJAT, 2014)
– Ângulos das juntas: diz respeito aos ângulos e graus de liberdade que permitem
expressar posturas emocionais como tristeza, alegria, raiva e etc.
Fontes de evidência na literatura: (ERDEN, 2013)
• Expressões faciais: diz respeito à capacidade do robô em utilizar a face para expressar
emoções.
• Emocionalmente inteligente: é a capacidade do robô em demonstrar uma inteligência

emocional através de seu comportamento empático.
Fontes de evidência na literatura: (LAW; CHITA-TEGMARK; SCHEUTZ, 2021)
Atributos: Empatia.
– Empatia: é a capacidade do robô em demonstrar que entende as emoções do

usuário.
Fontes de evidência na literatura: (TAPUS; MATARIĆ, 2008; LAW; CHITA-TEGMARK;

SCHEUTZ, 2021)
131
4.3.4 Sofisticação de interação
Definição: a sofisticação de interação diz respeito à forma como o usuário interage com o
robô. Feil-Seifer e Matarić (2005) separa as interações entre interação do robô para o humano
e do humano para o robô a fim de focar melhor em seus aspectos. O processo da interação
recíproca do usuário é bem mais complexa. Esse requisito diz respeito à capacidade do robô
em processar as informações da interação recíproca com o usuário. Quanto mais sofisticada
for a interação, melhor será a percepção social do robô. Contudo, maior capacidade técnica é
requerida.
Fontes de evidência na literatura:(FEIL-SEIFER; MATARIĆ, 2005)
Figura 20 – Requisito de Sofisticação de interação - contribuições e correlações
A Figura 20 apresenta uma contribuição ’AND’ entre o atributo de Modalidade de interação

e seus subatributos para o requisito de Sofisticação de interação. Também são apresentadas
três correlações positivas (+) para os requisitos de Comunicação, População de usuários e
Aprendizagem Socialmente Situada.
Atributos: Modalidade de interação.
• Modalidade de Interação: diz respeito aos requisitos relacionados às formas em que

as ações ou informações produzidas pelo usuário são captadas pelo robô.
Atributos: Fala, Gestos, Input (entrada) direto.

132
– Fala: diz respeito à capacidade do robô de reconhecer e compreender a fala hu-

mana.
– Gestos: diz respeito à capacidade do robô de reconhecer e compreender a gestos

corporais do usuário.
– Imput (entrada) direto: diz respeito à capacidade do robô de receber entrada de

informações de forma direta em seu hardware (sensores no corpo, tablet, controle
remoto).
4.3.5 Aprendizagem Socialmente Situada
Definição: a aprendizagem socialmente situada diz respeito à capacidade do robô em

adquirir novas competências por meio da interação social com o ambiente ou com o usuário.
Fontes de evidência na literatura: (FEIL-SEIFER; MATARIĆ, 2005)
Figura 21 – Requisito de Aprendizagem Socialmente Situada- contribuições e correlações
A Figura 21 apresenta uma contribuição do tipo positiva (+) do atributo Aprendizagem

social do robô e seu subatributo para a aprendizagem Socialmente Situada. Além disso, são
apresentadas três correlações positivas (+) com os requisitos de Comunicação, Emoção e
Intencionalidade.
133
Atributos: Aprendizagem social do robô.
• Aprendizagem Social do robô: é a capacidade do robô em adquirir competências

sociais através da interação com o usuário.
Atributos: Imitação.
– Imitação: é a capacidade do robô de aprender replicando ações e comportamentos

humanos.
4.3.6 Percepção orientada para o ser humano
Definição: a percepção orientada para o ser humano diz respeito à capacidade do robô de
perceber e processar as informações do ambiente e principalmente do usuário da forma mais
“humana” possível (FEIL-SEIFER; MATARIĆ, 2005).
A Figura 22 apresenta uma contribuição do tipo ’AND’ entre o atributo Automação e seus
subatributos para o requisito de Percepção Orientada para o ser humano. Uma correlação
negativa (-) para o requisito de Privacidade. Além disso, são apresentadas quatro correla-
ções positivas (+) para os requisitos de Comunicação, Segurança (Safety), Intencionalidade e
Aprendizagem Socialmente Situada.
Atributos: Automação.
• Automação: diz respeito aos requisitos do robô que selecionam dados, transformam
informações, tomam decisões ou controlam processos.
Fontes de evidência na literatura: (HANCOCK et al., 2011)
Atributos: Nível de automação, Cognição, Percepção, Inteligência, Modo de automação
– Nível de automação: diz respeito ao nível de envolvimento humano nas ações

e decisões do robô.
Fontes de evidência na literatura: (KORN; AKALIN; GOUVEIA, 2021)

134
Figura 22 – Requisito de Percepção orientada para o ser humano - contribuições e correlações
– Cognição: diz respeito à capacidade do robô em processar e analisar as informa-

ções adquiridas do ambiente.
Fontes de evidência na literatura: (LEMAIGNAN et al., 2017)
– Percepção: diz respeito à capacidade do robô de adquirir informações do ambi-

ente ao seu redor.
Fontes de evidência na literatura: (YAN; ANG; POO, 2014)
– Inteligência: diz respeito à capacidade do robô em adquirir, processar e aplicar

conhecimentos e habilidades parecidas com as humanas em sua interação com o
usuário humano ou ambiente.
Fontes de evidência na literatura: (FASOLA; MATARIĆ, 2013; LANGER et al.,

2019; CUCCINIELLO et al., 2021)
– Modo de automação: diz respeito à característica da automação do robô ser

fixa, ajustável ou adaptável.
135
Fontes de evidência na literatura: (SANDERS et al., 2011; ALNAJJAR et al., 2021)

Atributos: Adaptabilidade.
∗ Adaptabilidade: diz respeito à capacidade do robô em adaptar-se às ne-

cessidades do usuário ou aos fatores do ambiente.
Fontes de evidência na literatura: (UMBRICO et al., 2020)
4.3.7 Privacidade
Definição: são requisitos relacionados à proteção das informações pessoais do usuário

contra pessoas não autorizadas.
Fontes de evidência na literatura: (FEIL-SEIFER; MATARIC, 2011; ALAIAD; ZHOU, 2014;
SHARKEY, 2016; VANDEMEULEBROUCKE; CASTERLÉ; GASTMANS, 2018; LANGER et al., 2019)
Figura 23 – Requisito de Privacidade - contribuições e correlações
Na Figura 23 é apresentada uma contribuição positiva (+) do atributo Confidencialidade

para o requisito Privacidade. Também são apresentadas três correlações negativas (-) entre o
requisito de Privacidade e os requisitos de Segurança (Security ), Sofisticação de interação e
Percepção orientada para o ser humano.
Atributos: Confidencialidade.
• Confidencialidade: diz respeito à capacidade do robô/sistema em garantir que dados

sensíveis do usuário não possam ser divulgados a pessoas não autorizadas.
Fontes de evidência na literatura: (PINO et al., 2015)

136
4.3.8 Segurança (Safety)
Definição: diz respeito à integridade física do usuário e do robô.

Fontes de evidência na literatura: (SCOPELLITI; GIULIANI; FORNARA, 2005b; NESTOROV
et al., 2014; ISO 13482:2014, 2014; VANDEMEULEBROUCKE; CASTERLÉ; GASTMANS, 2018; ISO/TR
23482-1:2020, 2020; MCGINN, 2020)
A Figura 24 apresenta uma contribuição negativa (-) do atributo Dano físico e seu subatri-
buto e uma contribuição do tipo ’AND’ do atributo Proteção do robô e seu subatributo para
a Segurança (Safety ). Além disso, são apresentadas duas correlações negativas (-) para os
requisitos de Privacidade e Aparência/Antropomorfismo e uma correlação positiva (+) para o
requisito de População de usuários.
Figura 24 – Requisito de Segurança (Safety ) - contribuições e correlações
Atributos: Dano físico, Proteção do robô
• Dano físico: diz respeito à capacidade do robô em prevenir danos físicos ao ambiente
e usuários.
Fontes de evidência na literatura: (ISO 13482:2014, 2014; IROJU; OJERINDE; IKONO,

2017; ISO/TR 23482-1:2020, 2020)
Atributos: Colisão.
– Colisão: diz respeito à capacidade do robô em evitar impactos físicos com fatores
do ambiente (objetos, animais, estruturas físicas, etc) ou usuários humanos.
Fontes de evidência na literatura: (ISO 13482:2014, 2014; IROJU; OJERINDE;

IKONO, 2017; ISO/TR 23482-1:2020, 2020)
137
• Proteção do robô: diz respeito à capacidade do robô em proteger a sua própria exis-
tência contra danos, desde que não represente perigo ao usuário humano.
Fontes de evidência na literatura: (ISO 13482:2014, 2014; IROJU; OJERINDE; IKONO,

2017; ISO/TR 23482-1:2020, 2020)
Atributos: Área segura.
– Área segura: diz respeito à definição de zonas seguras em que o robô possa
interagir com riscos mínimos de ocasionar danos físicos ou perigo a si mesmo, ao
ambiente ou seres humanos.
Fontes de evidência na literatura: (ISO 13482:2014, 2014; IROJU; OJERINDE;

IKONO, 2017; ISO/TR 23482-1:2020, 2020)
4.3.9 Personalidade
Definição: diz respeito à capacidade do robô em demostrar características de personali-

dade humana (alegre, extrovertido, etc).
Fontes de evidência na literatura:(BREAZEAL et al., 2002; FEIL-SEIFER; MATARIĆ, 2005;
SANDERS et al., 2011; ROBERT et al., 2020)
A Figura 25 mostra a contribuição positiva (+) do atributo Adaptabilidade para o requi-
sito de Personalidade e as duas correlações positivas para os requisitos de Intencionalidade e
População de usuários.
Figura 25 – Requisito de Personalidade - contribuições e correlações
Atributos: Adaptabilidade.
138
• Adaptabilidade: diz respeito à capacidade do robô em adaptar a sua personalidade de

acordo com a personalidade do usuário humano.
Fontes de evidência na literatura: (PINO et al., 2015; LANGER et al., 2019)
4.3.10 Intencionalidade
Definição: diz respeito à capacidade do robô em demostrar comportamentos intencionais.

Na Figura 26 são apresentadas uma correlação suficientemente positiva do tipo ’MAKE’
(++) do atributo Comportamento do robô e seus subatributos para o requisito de Inten-
cionalidade.Também há cinco correlações positivas do requisito de Intencionalidade para os
requisitos de Personalidade, População de usuários, Emoção, Aparência/Antropomorfismo e
Segurança (Security ).
Figura 26 – Requisito de Intencionalidade - contribuições e correlações
Atributos: Comportamento do robô.
• Comportamento do robô: diz respeito à capacidade do robô em realizar um conjunto

de reações face às diversas interações propiciadas pelo meio onde está envolvido.
Fontes de evidência na literatura: (FEIL-SEIFER; MATARIĆ, 2005; TAPUS; MATARIC,

2006; MORO; NEJAT; MIHAILIDIS, 2018)
139
Atributos: Adaptabilidade, Previsível, Proativo, Comportamento direcionado, Depen-

dabilidade.
– Adaptabilidade: diz respeito à capacidade do robô em adaptar seu comporta-

mento a mudanças no ambiente, necessidades e/ou preferências do usuário.
Fontes de evidência na literatura: (UMBRICO et al., 2020)
– Previsível: diz respeito à capacidade do robô em demonstrar um comportamento

que corresponda à expectativa do usuário.
Fontes de evidência na literatura: (SCHAEFER, 2013; SCHADENBERG et al.,

2021)
– Proativo: diz respeito à capacidade do robô em demonstrar comportamento de

iniciar uma ação antecipatória que impacta a si mesmos e/ou aos outros.
Fontes de evidência na literatura: (SALICHS et al., 2006; BABEL et al., 2021)
– Comportamento direcionado: diz respeito à capacidade do robô de selecionar

comportamentos ou ações com base nos objetivos desejados.
Fontes de evidência na literatura: (FONG; NOURBAKHSH; DAUTENHAHN, 2003;

SALICHS et al., 2006; LANGER et al., 2019)
Atributos: Atenção.
∗ Atenção: diz respeito à capacidade do robô em exibir comportamento de

atenção, através de dicas sociais (ex. seguir com o olhar, apontar e etc) para
indicar qual objeto está atualmente em consideração.

2003; LOOIJE; NEERINCX; CNOSSEN, 2010)
– Dependabilidade: diz respeito à capacidade do robô em se comportar de forma

consistente e esperada, bem como sua capacidade para lidar com falhas.
Fontes de evidência na literatura: (SCHAEFER, 2013; LEE; NAGUIB, 2020)
Atributos: Eficaz, Consistente.

140
∗ Eficaz: diz respeito à capacidade do robô em (de forma correta) determi-

nada tarefa ou função, atingindo o objetivo proposto. Fontes de evidência
na literatura: (SALEM et al., 2015b)
∗ Consistente: diz respeito à capacidade do robô em demonstrar o mesmo

comportamento esperado em um intervalo de tempo suficientemente longo.
Fontes de evidência na literatura: (SCASSELLATI; ADMONI; MATARIĆ,

2012)
4.3.11 Papel do Robô
Definição: é o requisito que define qual a função desempenhada pelo robô (assistente,
tutor, companheiro, etc).
Fontes de evidência na literatura:(FEIL-SEIFER; MATARIĆ, 2005; FEIL-SEIFER; MATARIC,
2011)
Na Figura 27 são apresentadas uma contribuição ’AND’ da propriedade Autoridade para
o requisito Papel do Robô, duas correlações positivas do requisito Papel do Robô para os
requisitos de Intencionalidade e Aparência/Antropomorfismo e duas correlações desconhecidas
(’unknown’) do requisito de Papel do Robô para os requisitos de Comunicação e Sofisticação
de interação.
Figura 27 – Requisito de Papel do robô - contribuições e correlações
Atributos: Autoridade.
141
• Autoridade: diz respeito à capacidade do robô em exercer um certo nível de autoridade

em seu papel de interação com o usuário.
Fontes de evidência na literatura: (FEIL-SEIFER; MATARIC, 2011)
4.3.12 Tarefas/Contexto
Definição: diz respeito aos requisitos relacionados ao contexto de uso do robô e as ativi-
dades que o robô realizará.
Na Figura 28 são apresentadas as contribuições do tipo ’AND’ dos atributos de Risco/in-
certeza, Contexto/Tipo da Tarefa, Ambiente físico e Complexidade para o requisito de Tare-
fa/Contexto.Também são apresentadas duas correlações positivas de Tarefa/Contexto para os
requisitos de Aparência/Antropomorfismo e Papel do robô e uma contribuição desconhecida
(’unknown’) para Segurança (Safety ).
Figura 28 – Requisito de Tarefas/Contexto - contribuições e correlações
Atributos: Risco/incerteza, Contexto/Tipo da Tarefa, Ambiente físico, Complexidade.
• Risco/incerteza: diz respeito à capacidade do robô em mitigar riscos e incertezas

envolvidas na execução de suas tarefas e no contexto no qual está inserido.
Fontes de evidência na literatura: (SCHAEFER, 2013; STUCK; HOLTHAUSEN; WALKER,

2021)
• Contexto/Tipo da Tarefa: diz respeito às características do robô estarem coerentes

com o seu contexto de aplicação e os tipos de tarefas a serem realizadas.
142
Fontes de evidência na literatura: (LI; RAU; LI, 2010; CAMERON et al., 2015; STUCK;
ROGERS, 2018)
• Ambiente físico: diz respeito às características do robô estarem de acordo com as

regras e restrições do ambiente em que o robô será usado.
Fontes de evidência na literatura:(KIDD, 2003; HANCOCK; BILLINGS; SCHAEFER, 2011;

MEGHDARI et al., 2018)
• Complexidade: diz respeito a requisitos relacionados à dificuldade de execução das

tarefas do robô (ex. conhecimentos prévios, experiência, habilidades específicas e etc).
Fontes de evidência na literatura: (LIU; LI, 2012; HUANG; RAU; MA, 2021)
4.3.13 Modelagem de usuário
Definição: diz respeito à modelagem de atributos do usuário para adequar o comporta-

mento do robô.
Figura 29 – Requisito de População de usuários - contribuições e correlações
A Figura 29 apresenta duas contribuições positivas entre os atributos de Habilidade de

uso e Experiências Prévias e o requisito de Modelagem de usuário. Além disso, apresenta três
correlações positivas entre o requisito de Modelagem do usuário e os requisitos de Percepção
orientada para o ser humano, Sofisticação de interação e Intencionalidade e uma correlação
negativa do requisito de Modelagem de usuário para Privacidade.
143
Atributos: Habilidade de uso, Experiências Prévias.
• Habilidade de uso: diz respeito à modelagem da interação/apresentação do robô de

acordo com as estimativas ou crenças do usuário sobre a sua própria capacidade de
desempenhar uma determinada situação ou tarefa.
Fontes de evidência ma literatura: (TURJA; RANTANEN; OKSANEN, 2019)
• Experiências Prévias: diz respeito à modelagem da interação/apresentação do robô

de acordo com os requisitos relacionados ao histórico de contato do usuário com robôs/-
tecnologias.
Fontes de evidência ma literatura:(LANGER et al., 2019)
4.3.14 População de usuários
Definição: é o requisito que especifica o conjunto de características dos usuários que serão
atendidos pelo robô.
A Figura 30 apresenta duas contribuições positivas (+) entre os atributos de Necessidades
e Faixa etária para o requisito de População de usuários e duas correlações positivas (+) entre
o requisito de População de usuários e os requisitos de Tarefas/Contexto e Papel do Robô.
Figura 30 – Requisito de Modelagem de usuário - contribuições e correlações
Atributos: Necessidades, Faixa etária.

144
• Necessidades: diz respeito a requisitos associados a modelagem das interações/projeto

do robô de acordo com possíveis necessidades especiais do usuário (deficiências físicas,
déficits cognitivos, déficits sociais e etc).
Fontes de evidência na literatura:(FEIL-SEIFER; MATARIĆ, 2005; MORO; NEJAT; MIHAI-

LIDIS, 2018)
• Faixa etária: diz respeito a requisitos associados a modelagem das interações/projeto

do robô de acordo com a faixa etária dos usuários.
Fontes de evidência na literatura:(FEIL-SEIFER; MATARIĆ, 2005; OBAYASHI; KODATE;

MASUYAMA, 2018; AMUDHU, 2020)
Nesta seção foram apresentados os requisitos principais do Catálogo de Requisitos Não-

Funcionais de Confiança Para Robôs Socialmente Assistivos com suas descrições. As descrições
dos subatributos foram feitas de forma parcial.
Neste capítulo, foram realizadas algumas observações sobre a escolha e organização dos
atributos que constituem o catálogo. Em seguida, foi apresentado o processo de construção
do catálogo NFR4TRUST, que consiste em um processo composto por 3 fases e 9 tarefas.
O catálogo foi representado através de um grafo SIG sem suas correlações, sendo as correla-
ções representadas posteriormente por meio de tabela. Todos os 14 NFRs primários presentes
no catálogo foram descritos e apresentados em forma de figura contendo seus atributos e
subatributos, bem como suas correlações.
Embora o catálogo NFR4TRUST vise oferecer uma boa cobertura inicial dos Requisitos
Não-Funcionais de Confiança, ressaltamos que o catálogo está em constante evolução e não
é pretensão que ele esteja completo. No capítulo seguinte será apresentada a avaliação do
catálogo, bem como os métodos utilizados, os objetivos da avaliação e os resultados obtidos.
145
5 AVALIAÇÃO DO CATÁLOGO NFR4TRUST
Neste capítulo será apresentado o processo empregado na avaliação do catálogo proposto.

Nele, será retratado os métodos de avaliação, objetivos e a análise dos resultados.
Nesta dissertação os métodos utilizados para a avaliação da pesquisa compreenderam a
execução de uma Prova de Conceito em um SARs específico, a avaliação da Prova de Conceito
por meio de especialistas de NFR Framework e Interação Humano-Robô e avaliação do catálogo
por Engenheiros de Requisitos. O processo envolvido na avaliação foi executado a partir da
análise dos resultados obtidos através de entrevistas e um questionário aplicado à comunidade
acadêmica de Engenharia de Requisitos.
O objetivo da avaliação foi averiguar com pessoas que possuem experiência na área de
Robôs Socialmente Assistivos e na área de Requisitos, se o catálogo NFR4TRUST atende a
seus objetivos de auxiliar nas atividades de elicitação e especificação de NFRs de confiança em
projetos de desenvolvimento de SARs. O foco da avaliação concentrou-se na relevância dos
requisitos, em suas definições, correlações, facilidade de entendimento, utilidade do catálogo
e sua utilização e recomendação para projetos futuros.
5.1 PROVA DE CONCEITO
Segundo Silva (2019), o termo Prova de Conceito (Proof of Concept - PoC) refere-se a um
modelo prático para provar um conceito teórico estabelecido. Esse conceito pode ser oriundo
de uma pesquisa ou artigo técnico. A PoC pode ser uma implementação de um método ou ideia
de forma completa, resumida ou incompleta, sendo o propósito de sua realização averiguar se
o conceito ou teoria estudada pode ser explorado de uma forma útil. Na área de Tecnologia da
Informação, a PoC pode se referir também ao desenvolvimento de um protótipo para provar
se uma arquitetura ou sistema a ser desenvolvido é viável.
Na seção a seguir será apresentada a Prova de Conceito em um cenário onde o catálogo
NFR4TRUST será aplicado para auxiliar a elicitação de especificação de NFRs de Confiança
em um sistema robótico do tipo SARs: o robô NAO.
146
5.1.1 Prova de Conceito no NAO
O Robô Socialmente Assistivo utilizado nesta Prova de Conceito é o NAO, que é um robô
desenvolvido pela empresa francesa Aldebaran Robotics, atualmente conhecida como SoftBank
Robotics Europe. Neste projeto, usaremos como base o trabalho de Lins (2021) que avalia
a utilização do NAO v5 no contexto de fisioterapia para auxiliar na reabilitação motora de
membros superiores.
O principal objetivo da utilização do NAO na fisioterapia é manter o estímulo para a manu-
tenção adequada do tratamento do paciente. Os Robôs com características sociais possibilitam
que pacientes criem algum tipo de vínculo afetivo com eles aumentando o estímulo à continui-
dade do tratamento. Outra característica da utilização de SARs na fisioterapia é que quanto
maior for a autonomia dos robôs, menos esforço vai ser exigido do fisioterapeuta.
O NAO v5 tem um peso de 5,4 kg e uma altura de 57,4 cm. Sua profundidade com os
braços esticados é de 3,11 cm e a largura (ombro a ombro) de 2,75 cm. Na Figura 31 pode-se
observar os componentes da estrutura de Hardware do NAO.
Figura 31 – Hardware NAO
Fonte: Adaptado de Aldebaran (2017)
O NAO possui vantagens que residem tanto em sua aparência quanto em suas habilidades
corporais. O conjunto de elementos presente em seu hardware permite que ele possa se movi-
mentar (25 graus de liberdade ao total) e se adaptar bem ao ambiente. O comportamento do
147
NAO é programado com o software Choregraphe, que é um ambiente de programação visual

através de blocos.
A Figura 32 mostra a arquitetura do NAOTherapist elaborada no trabalho de González,
Pulido e Fernández (2017). Essa arquitetura é utilizada para representar o processo envolvido
na reabilitação fisioterápica utilizando o NAO. Pode-se observar na Figura 32, três diferentes
critérios de design que remetem ao procedimento terapêutico (definição da terapia e etapas
de execução da sessão), ao modelo de segmentação de instrução de cognição (percepção,
cognição e ação) e aos três níveis de planejamento automatizado (alto, médio e baixo).
Figura 32 – Arquitetura NAOTherapist
Fonte: Adaptado de González, Pulido e Fernández (2017)
De acordo com o planejamento da arquitetura, o primeiro passo a ser realizado na utilização

do NAO no contexto de fisioterapia é fazer o planejamento de alto nível. Esse planejamento
compreende o projetista (designer) da terapia que lida com a tarefa de planejar as sessões que
fazem parte dessa terapia.
No trabalho de Lins (2021), o projetista da terapia inicia com a delimitação dos movimentos
que o NAO irá realizar. O critério de escolha dos movimentos a serem realizados baseou-se
na similaridade entre os movimentos do NAO e os movimentos humanos. Entre todos os
movimentos que o NAO pode realizar, os de membros superiores (ombro e cotovelo) são
os mais similares aos movimentos humanos. É também nos membros superiores que o NAO
possui o maior grau de liberdade (12 ao total). A configuração dos exercícios no NAO foi
realizada pelo Choregraphe e o seu comportamento gerado através de agrupamento de blocos
em sequência com atividades específicas no software, onde cada exercício recebe um código.
Os níveis médio e baixo estão incluídos na execução das sessões. Um sistema de controle
148
está incluído no nível médio que se encarrega de fornecer as ações necessárias que o robô deve
executar enquanto detecta e monitora que os efeitos recebidos coincidem com os excedidos.
No trabalho de Lins (2021), o NAO é capaz de reconhecer rostos para identificação facial
e realizar conversas básicas. Ele não foi programado para dar feedback dos exercícios e nem
executar conversas mais elaboradas com o usuário. Devido a limitações técnicas e operacionais,
o NAO foi utilizado em um baixo nível de autonomia nesse trabalho.
O principio da execução do NAO é o seguinte:
1. O NAO realiza sua sequência de apresentação e retorna para a posição inicial com os
braços esticados ao longo do corpo.
2. O fisioterapeuta apresenta um cartão estilo QR code ao NAO que o reconhece como

um comando.
3. O NAO inicia a rotina previamente programada de movimento.
4. O NAO finaliza as repetições de movimento e volta para sua posição inicial.
O processo da construção da Prova de Conceitos foi executado pela autora dessa disserta-
ção em conjunto com a autora do trabalho de Lins (2021) através da obtenção das informações
por meio de entrevistas informais. O processo de avaliação dos artefatos gerados pela PoC
também foram avaliados por entrevistas informais.
A entrevista informal é uma técnica de investigação na pesquisa qualitativa que é realizada
de forma o menos estruturada possível. Ela se distingue da conversação porque o seu objetivo
é a coleta de dados.
Esse tipo de entrevista é recomendado nos estudos exploratórios, onde se pretende ter uma
visão mais ampla do problema. Nos estudos desse tipo, é comum recorrer a entrevistas informais
com informantes-chaves, que podem ser especialistas no tema em estudo, líderes formais ou
informais, personalidades destacadas, entre outros (GIL, 2008). A seguir, é discutido a forma
em que as entrevistas para a PoC foram conduzidas.
5.1.2 Condução da Prova de Conceito:
A especialista entrevistada (autora do trabalho Lins (2021)) é formada em Ciência da

Computação e também em Fisioterapia, possui experiência na área de requisitos e também em
149
desenvolvimento de aplicações no contexto de fisioterapia com Robôs Socialmente Assistivos.

Foram realizadas três entrevistas com a especialista em questão somando um total de 3 horas e
42 minutos. As reuniões foram realizadas de forma não-presencial através da ferramenta Google
Meet e foram gravadas para transcrições posteriores. A execução das reuniões se deram de
acordo com a Tabela 8.
Tabela 8 – Realização de entrevista com especialista de NFR Framework

Reunião Nº Realizada Duração Pauta Gravada
•Apresentação dos fatores de confiança a especialista
•Breve apresentação da abordagem NFR Framework
•Apresentação do catálogo
1 Online 1 hora e 22 minutos Sim
Google Meet
•Discussão dos NFRs do catálogo
•Definição dos NFRs a serem instanciados na Prova de Conceito

(Aparência/Antropomorfismo, Emoção e Comunicação)
•Coleta das informações sobre o sistema robótico utilizado
2 Online 1 hora e 15 minutos •Construção do SIG do NFR de Aparência/Antropomorfismo Sim

Google Meet
•Construção do SIG do NFR de Comunicação
3 Online 1 hora e 5 minutos •Construção do SIG do NFR de Emoção Sim

Google Meet
•Discussão sobre a utilidade do catálogo
A primeira reunião realizada teve um carácter explanativo, onde foram apresentados os con-
ceitos pertinentes a essa dissertação. Inicialmente, foram apresentados os fatores de Confiança
a especialista. Logo após, foi mostrado uma revisão breve dos conceitos da abordagem utili-
zada para representação do catálogo, o NFR Framework, pois a abordagem já era conhecida
pela especialista.
Após a contextualização dos principais conceitos, foi apresentado o catálogo NFR4TRUST
a especialista e, em seguida, foram discutidos os conceitos dos softgoals, sendo selecionado
quais deles seriam instanciados na Prova de conceito. A especialista selecionou três Requisitos,
os quais considerou bastante relevantes, sendo eles: Aparência/Antropomorfismo, Comunica-
ção e Emoção. Nessa reunião também foi coletada a descrição do sistema robótico NAO
utilizado no contexto de fisioterapia para auxiliar na reabilitação motora de membros superio-
res e o objetivo de sua utilização.
Na segunda reunião, foi iniciado o processo de construção dos SIG com base no catálogo
NFR4TRUST. Os SIG de Aparência/Antropomorfismo e Comunicação foram construídos em
um processo conjunto com a especialista. Na última reunião, foi construído o SIG de Emoção,
150
também em um processo conjunto. Após finalizar a instanciação do catálogo, foram feitas

algumas perguntas à especialista e algumas considerações sobre o uso do catálogo. Serão
transcritos a seguir alguns trechos da entrevista realizada na segunda reunião a título de
ilustrar as informações discutidas pela especialista.
Alguns trechos relatados pela especialista durante a segunda entrevista:
[Discutindo sobre Aparência&Antropomorfismo]
Alguma coisa que lembre do tipo... tem que ter nosso formato para fazer a
fisioterapia, então tem que ser bípede, ter dois braços, duas pernas, coisas
que lembrem características humanas é mais interessante. (Autora de Lins
(2021)).
[Discutindo sobre Aparência&Antropomorfismo/Características físicas/Apêndi-

ces]
Se estivermos falando de robôs que pareçam mais com humanos... sim é

importante ter braços, tronco, cabeça... E tem que ter os apêndices relaci-
onados ao que vamos fazer né? Na questão de ter mão, pode ser alguma
coisa que lembre uma mão, mesmo que não seja muito funcional, ela é boa
para servir como referência com o paciente, eu posso dizer: oh, presta aten-
ção em que direção vai a mãozinha do NAO... coisas assim. No fim, tem
que ser semelhante ao que os humanos têm. (Autora de Lins (2021)).
[Discutindo sobre Aparência&Antropomorfismo/Nível de Realismo]
O paciente não se sentiria muito confortável em realizar a fisioterapia com

robôs tipo a sophia... o robô tem que lembrar o ser humano, mas não de
mais, tem que ficar no meio termo. (Autora de Lins (2021)).

ces/Base/Forma]
A forma da base do NAO ajuda o robô a ficar em pé, mas ela não é muito
funcional para fazer exercícios de fisioterapia. Além da posição final não ser
fidedigna por isso que a gente excluiu os movimentos de membros inferiores,
a base também é pouco estável. Por exemplo, se o terreno for muito liso
ele escorrega, se o terreno for um pouco inclinado ele cai. Então a base é
assim... ela é bonitinha lembra perninhas, mas assim... ele não é estável.
(Autora de Lins (2021)).
[Discutindo sobre Aparência&Antropomorfismo/Características físicas/Caracte-

rísticas faciais]
Nas características faciais ter olhos e boca já é o suficiente, a boca por

exemplo é uma parte lúdica. Quando o robô está interagindo com crianças,
ter uma noção que tem uma boca, já faz diferença, dá a impressão de que
o robô está se comunicando por ela, fica mais fiel a interação humana. Já
os olhos são modo de comunicação também né?... do NAO com a gente...
então, é bastante importante ter olhos também, os olhos do NAO podem
mudar de cor e isso pode ser usado para indicar, para ajudar na interação.
151

ces/Cabeça/Peso]
A cabeça do NAO é restrita, não tem tanta movimentação e é pesada em

relação ao corpo dele, a cabeça afeta o equilíbrio e a estabilidade do robô.
[Discutindo sobre Aparência&Antropomorfismo/Características físicas/Durabili-

dade]
O NAO precisa ser resistente à queda... ele tem que aguentar o tranco. En-
tão, ele tem que ser resistente à queda e tem que ser resistente à frequência
de exercício... eu acho que está em durabilidade. (Autora de Lins (2021)).
[Discutindo sobre Aparência&Antropomorfismo/Características físicas/Tipos de

borda]
O robô precisa ter borda arredondada, porque a quadrada é visualmente

menos apelativa e a arredondada mostra um pouco mais de suavidade,
o robô fica com um aspecto mais amigável, e depois, se a gente estiver
tratando de crianças ou pessoas com distúrbio de equilíbrio que sem querer
caiam em cima do robô, se o robô tem uma ponta quadrada... não dá, vai
machucar... então tem que ser arredondada. (Autora de Lins (2021)).
[Discutindo sobre Aparência&Antropomorfismo/Características físicas/Tamanho]
A questão do tamanho... para o propósito dele, o NAO está bom. Os robôs

não podem ser muito grandes para não gerar desconforto no usuário e não
podem ser pequenos de mais, eles precisam estar bem no campo de visão do
usuário e precisam estar de acordo com a tarefa ... porque, por exemplo, se
um robô precisa carregar um paciente... ele não pode ser pequeno. (Autora
de Lins (2021)).
[Discutindo sobre Aparência&Antropomorfismo/Capacidade funcional/ Movimento

biológico realista/DOF]
Quanto aos graus de liberdade, é importante que o robô proporcione os

movimentos o mais próximo possível dos movimentos humanos, mas como
isso não é possível totalmente com o hardware que a gente tem hoje, a gente
tem que selecionar os movimentos mais próximos possíveis. O robô não vai
ter tanta amplitude de movimento, mas ele vai executar o mais próximo
possível, o que é bom. E aí, por isso, é bom a gente mapear os graus de
movimento do robô comparando com o humano. Tem que ter no mínimo
70% de amplitude dos movimentos que a gente faz [o robô], porque não
dá para fazer um movimento que seja muito inferior, isso seria prejudicial
ao tratamento. O que a gente procurou no NAO, o que, pra mim, já foi
o suficiente... foi ele fazer apenas os exercícios que chegavam próximos do
que a gente faz. (Autora de Lins (2021)).
[Discutindo sobre Aparência&Antropomorfismo/Características físicas/Tipo de

material/Construção]
152
O material do robô tem que ser bem leve e resistente, e não pode ser
inflamável também... porque é um dispositivo eletrônico. (Autora de Lins
(2021)).
[Discutindo sobre Comunicação/Modo de Comunicação/verbal/Auditiva/Voz/-

Tom]
A voz do robô tem que ser clara... ela tem que ser entendível, então o
tom da voz do robô precisa estar de uma forma que o usuário vá escutar e
compreender bem. (Autora de Lins (2021)).
[Discutindo sobre Comunicação/Modo de Comunicação/verbal/Auditiva/Voz/-

Tipo]
Os usuários tendem a entender melhor a voz mais parecida com a voz

humana, mas é bom que o tipo de voz case com a aparência/antropomor-
fismo... porque se eu tenho um robô que parece muito realista e tem a voz
muito robótica fica estranho... a voz do NAO está legal, ela combina com
a aparência dele. (Autora de Lins (2021)).
[Discutindo sobre Correlações/Características faciais/ Nível de realismo]
As características faciais do NAO vão influenciar positivamente no nível de

realismo dele... O NAO não é realista em um nível muito desconfortável,
ele é normal...a face dele é bem neutra. (Autora de Lins (2021)).
As entrevistas tiveram um baixo nível de interferência. Porém a autora dessa dissertação

esclareceu dúvidas sobre alguns conceitos. Ademais, a especialista discorreu livremente sobre
os NFRs e a autora desta dissertação montou o SIG. A base do catálogo já havia sido cons-
truída previamente na ferramenta StarUML1 e a especialista apenas indicou quais conceitos
não deveriam estar presentes e outros que seriam pertinentes para a aplicação em questão.
Nas reuniões foi possível identificar alguns refinamentos, operacionalizações, contribuições e
correlações.
A seguir, serão apresentados os catálogos instanciados na Prova de Conceito referentes
aos NFRs de Aparência/Antropomorfismo, Comunicação e Emoção.
5.1.3 Instanciação do catálogo NFR4TRUST para a Prova de Conceito
Nesta seção, são apresentados os Grafos SIG dos Requisitos de Aparência/Antropomor-

fismo, Comunicação e Emoção do sistema robótico NAO. Foram representadas as contribui-
ções, correlações e operacionalizações.
1
Ferramenta de modelagem que permite a criação de diagramas UML e através da instalação do plugin
RE-Tools permite a modelagem do NFR Framework.
153
A ferramenta utilizada para a representação desses SIGs foi a StarUML. A seguir descre-
veremos um pouco sobre a notação da ferramenta.
• Nuvens claras inteiras: softgoal NFR.
• Nuvens escuras: operacionalizações - implementações de soluções.
• Nuvens claras pontilhadas: Afirmações (Claims) - fundamentação lógica.
• setas cheias e preta: contribuição do tipo ’AND’.
• Setas cheias e verdes (++): contribuição do tipo suficientemente positiva.
• Setas cheias e verdes (+): contribuição do tipo parcialmente positiva.
• Setas cheias e vermelhas (- -): contribuição do tipo suficientemente negativa.
• Setas cheias e vermelhas (-): contribuição do tipo parcialmente negativa.
• Setas pontilhadas e verdes (+): correlações do tipo parcialmente negativa.
• Setas pontilhadas e vermelhas (-): correlações do tipo parcialmente negativa.
Aparência/Antropomorfismo: na Figura 33 é apresentado o SIG de Aparência/Antropo-

morfismo do NAO. Na construção desse SIG foi possível representar contribuições e correlações
positivas e negativas bem como chegar a 12 operacionalizações e 2 afirmações (Claims). Além
disso, surgiram 4 novos refinamentos que não constam no catálogo NFR4TRST:
• Características físicas-> Apêndices-> Braço-> Mão->A forma deve ser compatível

com o tipo de tarefa que será realizada[Mão];
• Características físicas-> Durabilidade-> Resistentes a quedas[NAO];
• Características físicas-> Tipos de bordas->Deve ter bordas chanfradas[NAO];
• Características físicas-> Idade aparente-> Deve evidenciar características mais in-

fantis quando lidar com crianças[NAO].
Comunicação: na Figura 34 é apresentado o SIG de Comunicação do NAO. Na construção

desse SIG foi possível representar contribuições e correlações positivas bem como chegar a 15
operacionalizações e 2 afirmações (Claims). Além disso, surgiram 5 novos refinamentos que
não constam no catálogo NFR4TRST:
154
• Verbal-> Auditiva-> Diálogo-> Iniciativa-> O robô deve inicializar o diálogo[Diálogo];
• Verbal-> Auditiva-> Diálogo-> Iniciativa-> O robô deve fazer perguntas sobre o

estado do usuário[Diálogo];
• Não-verbal-> Gestos-> O robô deve combinar gestos corporais simples enquanto

fala[Gestos];
• Feedback-> Olhos[LEDs];
• Feedback-> Alarme-> Tipo-> Som[Feedback].
Emoção: na Figura 35 é apresentado o SIG de Emoção do NAO. Na construção desse SIG

foi possível representar contribuições positivas e negativas bem como chegar a 5 operaciona-
lizações e 1 afirmação (Claim). Além disso, surgiram 7 novos refinamentos que não constam
no catálogo NFR4TRST:
• Postura emocional-> Movimentos no plano-> Para frente[Movimentos no plano];
• Postura emocional-> Movimentos no plano-> Para trás[Movimentos no plano];
• Postura emocional-> Movimentos no plano-> Neutro[Movimentos no plano];
• Postura emocional-> Ângulos das juntas-> Flexão da cabeça[Ângulos];
• Postura emocional-> Ângulos das juntas-> Adução do ombro[Ângulos];
• Postura emocional-> Ângulos das juntas-> Balanço do ombro[Ângulos];
• Postura emocional-> Ângulos das juntas-> Flexão do cotovelo[Ângulos].

Figura 33 – Prova de Conceito - Aparência|Antropomorfismo

155
Figura 34 – Prova de Conceito - Comunicação
156

Figura 35 – Prova de Conceito - Emoção

157
158
5.1.4 Resultados e Discussão - Prova de Conceito
A elicitação e especificação de requisitos do sistema robótico NAO foi realizado em estilo

programação em par2 , onde o “piloto” (autora desta dissertação), construiu os artefatos na
ferramenta (StarUML) em sua máquina (fazendo compartilhamento de tela), enquanto o "co-
piloto", no caso a especialista em questão, analisava e discutia os NFRs, seus refinamentos,
contribuições, correlações, afirmações (claims) e operacionalizações pertinentes à aplicação
do NAO no contexto de reabilitação motora de membros superiores. As perguntas que foram
feitas à especialista em questão, após a finalização da instanciação do catálogo sobre o uso
dele, serão transcritas a seguir.
• “Você acha que é pertinente identificar requisitos não-funcionais associados

a perspectiva de confiança do usuário em projetos com Robôs Socialmente
Assistivos?”
- “Acho sim”
• “Você acha que o catálogo pode ajudar na elicitação de requisitos não-funcionais

de confiança que sejam relevantes para projetos de SARs?”
- “Sim. É bom saber com o que vamos lidar. Tipo, especificações, características do
dispositivo. Ajuda a planejar o que é possível fazer."
• “Houve dificuldade na utilização do catálogo?”
- “Não achei. O catálogo está claro para mim.”
• “Você utilizaria esse catálogo?”
- “Usaria. Gosto de saber com o que estou lidando.”
Com a aplicação desta Prova de Conceito, observamos que nossa abordagem se mostrou
útil na elicitação dos requisitos. O catálogo NFR4TRUST conseguiu cobrir de forma eficiente
os requisitos Não-Funcionais de Confiança do NAO. Ao desenvolver os SIG da PoC em conjunto
com a especialista, já foram sendo feitas as validações dos artefatos finais gerados, ou seja, os
2
É uma técnica de desenvolvimento de software ágil em que dois programadores trabalham juntos em uma
estação de trabalho. Um deles, o “piloto”, escreve o código, enquanto o outro, chamado de “co-piloto”,
analisa cada linha do código.
159
catálogos SIG. A especialista afirmou que os catálogos gerados conseguiram expressar e ilustrar
de forma simples os Requisitos Não-Funcionais de Confiança do sistema robótico. Além disso,
na visão dela, pensar nos requisitos presentes no catálogo ajuda a planejar melhor e restringir o
que precisa ser desenvolvido/projetado no robô e em sua interação com o usuário e o ambiente.
5.1.5 Avaliação com especialistas específicos
A Prova de conceito passou por um processo de avaliação quanto ao uso da abordagem NFR
Framework e quanto à área de Interação Humano-Robô. Foram entrevistados dois especialistas
sênios, o primeiro especialista tem uma vasta experiência com a abordagem NFR Framework e
o segundo especialista atua na área acadêmica com Interação Humano-Robô há mais de sete
anos e a quatro anos com Robôs do tipo social. As reuniões ocorreram conforme apresentado
na Tabela 9.
Tabela 9 – Realização de entrevista com especialistas
Especialista Reunião realizada
Duração Pauta Objetivo
•Apresentação dos fatores de confiança ao especialista
Online
NFR Framework 1 hora e 49 •Apresentação do catálogo e da Prova de Conceito •Verificar a corretude
Google Meet minutos de utilização da aborda-
gem
•Discussão sobre utilização da abordagem
NFR Framework no catálogo
•Apresentação dos fatores de confiança ao especialista
•Breve apresentação da abordagem NFR Framework

Online
Interação Humano-Robô 1 hora e 01 •Verificar a relevância
Google Meet minutos •Apresentação do catálogo geral e da Prova e Conceito quanto aos conceitos de
HRI e a viabilidade de
•Discussão dos NFRs do catálogo no contexto de HRI utilização
•Realização de perguntas objetivas ao especialista
A reunião com o especialista da abordagem NFR Framework teve uma duração de 1 hora
e 49 minutos e foi realizada de maneira remota pela ferramenta Google Meet, sendo gravada
para consultas posteriores. Na primeira parte da reunião, foi apresentado ao especialista uma
breve contextualização dos fatores de confiança para justificar a escolha dos NFRs. Logo após,
foi mostrada a estrutura completa do catálogo e apresentado com mais detalhes os catálogos
instanciados na Prova de Conceito. O especialista discutiu sobre a forma em que a abordagem
estava sendo utilizada, suas contribuições, correlações e operacionalizações.
160
A segunda entrevista, realizada com o especialista da área de HRI também aconteceu de

forma remota e pela ferramenta Google Meet. A reunião teve uma duração de 1 hora e 1
minuto e foi gravada para consultas posteriores. Na primeira parte da reunião, foi apresentado
os fatores de confiança ao especialista. Logo após, foi dada uma breve contextualização da
abordagem NFR Framework, explicando o que era um softgoal, operacionalização e os símbolos
usados para ligar esses artefatos (contribuições e correlações).
O catálogo completo foi apresentado ao especialista, porém, apenas os NFRs da Prova de
Conceito foram detalhados. Após a apresentação dos catálogos gerados na Prova de Conceito,
foram discutidos com o especialista acerca da relevância daqueles Requisitos como atributos
de qualidade referente a confiança em Robôs Socialmente Assistivos. No final da reunião foram
feitas algumas perguntas ao especialista que serão discutidas na seção a seguir.
5.1.6 Resultados e Discussão - Avaliação com especialistas específicos
O objetivo da entrevista com o especialista da abordagem NFR Framework foi verificar a

corretude de utilização da abordagem. Os Catálogos gerados com a PoC conseguiram ser ava-
liados e o especialista deu feedbacks sobre os artefatos gerados. De modo geral, foi constatado
que o NFR Framework está condizente com as diretrizes de aplicação da abordagem e que
a aplicação do catálogo possibilita chegar em algumas operacionalizações. As modificações
sugeridas foram utilizadas para melhorar o catálogo.
A avaliação com o especialista de Interação Humano-Robô teve o objetivo de verificar a
aplicabilidade em cenários reais. As seguintes perguntas foram feitas ao especialista:
• “Conhece o conceito de confiança (Trust) na área de HRI? Alguma vez pes-

quisou esse conceito?”
- “Sim, porque tem um projeto que trabalha com confiança na interação humano-robô,
mas humano-robô industrial, e eu tenho uma aluna de doutorado que estava trabalhando
nesse projeto.”
• “Dentro das características (fatores) de confiança, qual você acha que é a mais
importante?”
- “Preservar o usuário[safety]...” [Entrevistador] “mas se tratando de aplicações

onde o contato físico não é prioridade e pode não acontecer...”
161
- “aí seria preservar as informações do usuário né?... a questão da confidencialidade dos

dados dos usuários.”
• “Você acha que esse catálogo poderia ser utilizado para fazer um design ou
projetar uma aplicação de SARs com a perspectiva de confiança?”
- “Acredito que sim... projetar uma aplicação eu acho mais fácil.”
• “Você usaria esse catálogo?”
- “Eu achei ele bem interessante, acredito que sim.”
• “Você recomendaria esse catálogo?”
- “Sim.”
• O que você acha que pode melhorar no catálogo?
- “Descrever com mais detalhes todos os itens... [se referindo ao nível de refinamento]
e fazer o catálogo de uma forma que possa esconder parte dele, e ao clicar se possa
expandir um parte ou esconder ela...”
Na avaliação com o especialista de HRI, foi possível verificar a relevância dos NFRs para o
domínio de SARs e a viabilidade de aplicação do catálogo em cenários reais. O especialista
afirmou que o catálogo poderia ser utilizado principalmente para projetar aplicações de SARs.
5.2 AVALIAÇÃO COM ENGENHEIROS DE REQUISITOS ATRAVÉS DE QUESTIONÁRIO
A aplicação de questionário é uma técnica de investigação que tem o propósito de obter

informações sobre conhecimentos, crenças, sentimentos, interesses, expectativas entre outros.
Essa técnica é realizada através de um conjunto de questões que são submetidas às pessoas
(GIL, 2008).
Segundo Gil (2008), a construção de um questionário consiste em idealizar questões espe-
cíficas através da tradução dos objetivos da pesquisa. Os dados adquiridos pelas respostas a
estas questões irão ajudar a representar as características da população ou testar suposições
que são construídas durante o planejamento da pesquisa.
Os questionários podem ser do tipo auto-aplicados, quando são propostos por escrito aos
participantes, ou podem ser aplicados com entrevista, quando as questões são formuladas
162
oralmente pelo pesquisador. Nesta avaliação utilizamos um questionário auto-aplicado que foi
disponibilizado de forma online.
A aplicação do instrumento ocorreu de maneira remota via Google Meet com o preenchi-
mento do questionário no Google Forms. Esta pesquisa contou com 20 participantes voluntá-
rios. Os perfis dos participantes desta pesquisa foi constituído de Engenheiros de Requisitos.
Os participantes da pesquisa foram convidados em duas etapas: a primeira através de
contato via e-mail. Neste contato foi apresentado um resumo sobre o trabalho e a forma que
seria aplicada a avaliação. Foram convidados 12 participantes, 10 desses participantes são
membros do Laboratório de Engenharia de Requisitos (LER) e os outros 2 são pós-graduandos
com experiência de 1 ano em pesquisa de robôs sociais. Dos 12 participantes convidados,
todos realizaram a avaliação.
Na segunda etapa do recrutamento, foram convidados os alunos da disciplina de pós-
graduação de Engenharia de Requisitos, ministrada no Centro de informática da . os partici-
pantes foram recrutados através de uma atividade no Google Sala de Aula. Dos 8 participantes
recrutados, 8 participantes realizaram a avaliação.
No dia da avaliação os participantes entraram no Google Classroom para acessar a sala
virtual disponibilizada para a disciplina no Google Meet. Para participação na avaliação foi ne-
cessário concordar com o Termo de Consentimento Livre e Esclarecido (Disponível no Apêndice
A). O questionário utilizado nesta pesquisa foi organizado em três partes. Na primeira, são
apresentadas 8 perguntas para definir o perfil dos participantes; em seguida, foram apresenta-
das 7 perguntas sobre o catálogo. Na parte final são apresentadas 5 perguntas subjetivas com
o objetivo de possibilitar aos participantes uma complementação da avaliação do catálogo,
seja para esclarecer seu ponto de vista, seja para incluir algo de sua experiência. A métrica uti-
lizada para analisar as respostas do questionário foi a escala desenvolvida por (LIKERT, 1932).
A seguir serão apresentadas as análises das respostas do questionário.
5.2.1 Perfil dos participantes
Foram analisados os dados dos 20 participantes através do preenchimento de um questi-

onário demográfico que visava possibilitar a análise tanto do perfil dos participantes, quanto
do nível de conhecimento acerca dos temas abordados na pesquisa.
163
• Questão 1 - Qual a sua maior formação?
Na Figura 36 é apresentada o perfil acadêmico dos participantes da pesquisa. Um per-

centual de 30% (6/20) dos participantes possuem Doutorado incompleto, 30% (6/20)
possuem Mestrado incompleto. 25% (5/20) concluíram o Mestrado e dos outros 15%
(3/20), 1 possuía Especialização, 1 Graduação e 1 Pós-Doutorado.
Figura 36 – Perfil Acadêmico dos Participantes
• Questão 2 - Como você definiria seu nível de conhecimento em elicitação de

requisitos?
A Figura 37 apresenta um gráfico pizza com o nível de conhecimento dos participantes

em Elicitação de Requisitos. 10% (2/20) dos participantes informaram possuir baixo
conhecimento de elicitação de requisitos, 55% (11/20) possuíam conhecimento médio,
30% (6/20) possuíam conhecimento alto e 5% (1/20) informaram possuir conhecimento
muito alto em elicitação de requisitos.
• Questão 3 - Tem alguma experiência profissional com elicitação e especificação

de requisitos?
A Figura 38 apresenta um gráfico pizza com a experiência profissional em elicitação e

especificação de requisitos dos participantes. 50% (10/20) dos participantes possuíam
muito pouca experiência profissional em elicitação e especificação de requisitos, 15%
(3/20) não possuíam nenhuma experiência profissional em elicitação e especificação de
requisitos e 35% (7/20) possuíam experiência profissional em elicitação e especificação
de requisitos.
164
Figura 37 – Nível de conhecimento dos participantes em elicitação de requisitos
Figura 38 – Os participantes tem alguma experiência profissional com elicitação e especificação de requisitos
• Questão 4 - Como você definiria seu nível de conhecimento na abordagem

NFR Framework?
A Figura 39 apresenta um gráfico pizza com o nível de conhecimento dos participan-

tes na abordagem NFR Framework. 10% (2/20) dos participantes informaram que não
possuíam nenhum conhecimento sobre a abordagem, 35% (7/20) tinham baixo conhe-
cimento na abordagem, 45% (9/20) informaram que possuíam um conhecimento médio
sobre a abordagem e 10% (2/20) possuíam um conhecimento alto sobre a abordagem.
165
Figura 39 – Nível de conhecimento dos participantes na abordagem NFR Framework
• Questão 5 - Como você definiria seu nível de conhecimento em Interação

Humano-Robô?

na área de Interação Humano-Robô. 10% (2/20) dos participantes informaram que não
possuíam nenhum conhecimento na área, 50% (10/20) possuíam baixo conhecimento na
área, 30% (6/20) informaram que possuíam um conhecimento médio na área, 5% (1/20)
informaram que possuíam um conhecimento alto na área e 5% (1/20) informaram que
possuíam um conhecimento muito alto na área.
Figura 40 – Nível de conhecimento dos participantes em Interação Humano-Robô

166
• Questão 6 - Alguma vez você já ouviu falar ou conhece os fatores de Confiança

de Interação Humano-Robô?

nos fatores de Confiança na Interação Humano-Robô. 25% (5/20) dos participantes
informaram que nunca ouviram falar de nenhum fator da área, 45% (9/20) já ouviram
falar de alguma forma dos fatores da área, 15% (3/20) conhecem os fatores da área,
10% (2/20) não conhecem a área e 5% (1/20) conhecem os fatores, mas não sabiam
que era uma área de pesquisa.
Figura 41 – Nível de conhecimento dos participantes em Confiança na Interação Humano-Robô
• Questão 7 - Como você definiria seu nível de conhecimento em robótica social?

tes sobre robótica social. 20% (4/20) dos participantes informaram que não possuíam
nenhum conhecimento em robótica social, 55% (11/20) possuíam baixo conhecimento
em robótica social, 15% (3/20) possuíam um conhecimento médio em robótica social,
5% (1/20) possuíam alto conhecimento em robótica social e 5% (1/20) informaram que
possuíam conhecimento muito alto em robótica social.
167
Figura 42 – Nível de conhecimento dos participantes em robótica social
• Questão 8 - Como você definiria seu nível de conhecimento em robótica soci-

almente assistiva?

tes sobre robótica socialmente assistiva. 30% (6/20) dos participantes informaram que
não possuíam nenhum conhecimento em robótica socialmente assistiva, 45% (9/20)
possuíam baixo conhecimento em robótica socialmente assistiva, 15% (3/20) possuíam
um conhecimento médio em robótica social, 5% (1/20) possuíam alto conhecimento
em robótica socialmente assistiva e 5% (1/20) informaram que possuíam conhecimento
muito alto em robótica socialmente assistiva.
Figura 43 – Nível de conhecimento dos participantes em robótica socialmente assistiva

168
5.2.2 Discussão Perfil dos participantes
De acordo com a Figura 37, a maior parte dos participantes se identificaram como tendo
conhecimento Médio, Alto ou Muito Alto em elicitação de requisitos (90% (18/20)). Dentro
desse percentual de 90%, existe um percentual de 61,1% (11/18) que possuem conhecimento
Alto ou Médio em NFR Framework, o que configura 55% (11/20) dos participantes.
Ao total, os participantes que possuem conhecimento Médio, Alto e Muito Alto em elici-
tação, Alto e Médio em NFR Framework e Médio ou Muito Alto em Robótica Socialmente
Assistiva representam 15% (3/20). Já quem tem Médio, Alto e Muito Alto em elicitação de
requisitos, Alto e Médio em NFR Framework e baixo conhecimento em Robótica Socialmente
Assistiva representam 25% (5/20). Desses 40% (8/20), apenas 12,5% (1/8) nunca ouviram
falar de Confiança. No fim, se tem uma amostra significativa de conhecimento distribuído em
todas as 4 principais áreas do catálogo de 35% (7/20).
5.2.3 Avaliação do catálogo NFR4TRUST
• Questão 9 - Os Requisitos Não-Funcionais apresentados no catálogo NFR4TRUST

são pertinentes a construção de projetos de Robôs Socialmente Assistivos
(SARs) que transmitam mais Confiança.
Conforme pode ser visto na Figura 44, 80% (16/20) dos participantes concordaram
totalmente com essa afirmativa, 15% (3/20) concordaram parcialmente e 5% (1/20)
foram neutros. Por isso, pode-se concluir em relação as respostas da maioria dos parti-
cipantes que os Requisitos Não-Funcionais apresentados no catálogo NFR4TRUST são
propícios a construção de projetos de Robôs Socialmente Assistivos que transmitam mais
confiança.
• Questão 10 - As CORRELAÇÕES apresentadas no catálogo NFR4TRUST são

condizentes com as relações entre os fatores de Confiança dos Robôs Social-
mente Assistivos.
O objetivo desta questão é saber se as correlações apresentadas no catálogo estão bem

definidas e refletem o contexto real destes sistema robóticos. Com relação a essa afirma-
ção, podemos ver através da Figura 45 que 80% (16/20) dos participantes concordaram
totalmente, 15% (3/20) concordaram parcialmente com esse afirmação e 5% se decla-
169
Figura 44 – Questão 9
raram neutro. As outras opções não foram selecionadas pelos participantes.
• Questão 11 - Os requisitos de Confiança do catálogo NFRTRUST apresentam

definições adequadas.
De acordo com a Figura 46, um percentual de 95% (19/20) dos participantes concor-
dam totalmente com as definições apresentadas no catálogo e 5% (1/20) se declarou
neutra. As opções discordo totalmente, discordo parcialmente e concordo parcialmente
não foram respondidas pelos participantes. Portanto, de acordo com o resultado ob-
tido, as definições obtidas a partir da literatura são consistentes, segundo a opinião dos
participantes.
170
• Questão 12 - O catálogo NFR4TRUST é de fácil entendimento.
Em relação a facilidade de entendimento do catálogo, a Figura 47 mostra que 50%

(10/20) dos participantes concordam totalmente que o catálogo apresenta uma fácil
compreensão, 45% (9/20) concordam parcialmente e 5% (1/10) se mostraram neutros.
De acordo com estes resultados, pode-se chegar a conclusão que segundo a maioria dos
participantes (95%), a apresentação do catálogo é de fácil compreensão.
• Questão 13 - O catálogo NFR4TRUST é um artefato útil nas etapas de elici-

tação e especificação no processo de Engenharia de Requisitos para Sistemas
Robóticos Socialmente Assistivos.
Conforme pode ser visto na Figura 48, é mostrado que 90% (18/20) dos participan-
171
tes concordaram totalmente que o catálogo pode ser um artefato útil e pode agregar
uma melhoria da qualidade na elicitação dos requisitos, 10% (1/20) concordaram par-
cialmente com esta afirmativa e as outras opções como discordo totalmente, discordo
parcialmente e neutro não foram respondidas pelos participantes.
• Questão 14 - Eu utilizaria o catálogo NFR4TRUST em projetos futuros de

desenvolvimento de Robôs Socialmente Assistivos.
A Figura 49 mostra que 80% (16/20) dos participantes concordam totalmente em utilizar
o catálogo em projetos futuros, 15% (3/20) concordam parcialmente e 5% (1/20) são
neutros. Pelos resultados obtidos nessa assertiva, o catálogo teve uma boa aceitação
por parte dos participantes e eles utilizariam em seus projetos futuros como um artefato
para melhorar a elicitação e especificação de seus projetos.
• Questão 15 - Eu recomendaria a outras pessoas a utilização do catálogo

NFR4TRUST em projetos de Robôs Socialmente Assistivos.
Na Figura 50, 80% (8/10) dos participantes concordam totalmente com esta afirmação e
recomendariam o uso do catálogo para outras pessoas e 20% (2/10) concordam parcial-
mente. As opções discordo totalmente, discordo parcialmente e neutro não apresentaram
respostas.
172
Com os resultados das questões de 9 a 16 concluímos que o catálogo NFR4TRUST apresenta

requisitos que refletem bem algumas qualidades de Confiança e os participantes validaram de
maneira positiva a pertinência destes requisitos. As correlações definidas refletiram de ma-
neira satisfatória os impactos de um NFR sobre outro. Além disso as definições presentes
no catálogo se mostraram adequadas. O catálogo se apresentou como um artefato de fácil
entendimento, onde os participantes o utilizariam em projetos futuros. Por fim, os participan-
tes recomendariam o catálogo para outros colegas para que o utilizassem em seus projetos
como um instrumento de apoio a elicitação e especificação de projeto de Robôs Socialmente
Assistivos.
173
5.2.4 Discussões e Sugestões de Melhoria
• Questão 16 - Dentro dos fatores de confiança, qual você acha que é o mais
importante?
Dos 20 participantes, todos responderam essa pergunta. A seguir as respostas são or-
ganizadas dos fatores mais citados para os menos citados.
- 25% (5/20) dos participantes apontaram Modo de comunicação como um dos

fatores mais importantes. Um deles enfatizou no catálogo que o NFR de comuni-
cação é um dos mais importantes.
- 15% (3/20) dos participantes apontaram a Aparência/Antropomorfismo como o

fator mais importante a ser levado em consideração na Confiança. Um deles ainda
complementou que: “Aparência é muito importante para garantir que os usuários
se sintam confortáveis em desenvolver uma relação.”
- 10% (2/20) dos participantes apontaram que todos os fatores humanos são im-
portantes.
- 10% (2/20) dos participantes apontaram a Confiabilidade/Erros que também es-

tão relacionados com a Capacidade do robô como fator mais importante.
- 5% (1/20) dos participantes apontaram que consideram todo o subgrupo do Fator

robô como importantes para a Confiança.
- 5% (1/20) dos participantes apontaram, os fatores presentes no subgrupo de

Capacidade do robô.
- 5% (1/20) dos participantes apontaram, os fatores presentes no subgrupo de

Recursos do robô.
- 5% (1/20) dos participantes apontaram a Segurança/Privacidade como um fator

importante para Confiança de SARs.
- 5% (1/20) dos participantes apontaram que todos os fatores ambientais são im-
portantes.
174
- 5% (1/20) dos participantes enfatizaram a subcategoria de Fatores Humanos, os

Fatores emocionais como mais pertinentes para Confiança em SARs.
- 5% (1/20) dos participantes apontaram a Habilidade de Uso como um fator im-

portante para Confiança de SARs.
- 5% (1/20) dos participantes apontaram a Inteligência do robô como um fator

importante para Confiança de SARs.
• Questão 17 - Você acha que esse catálogo pode ser utilizado para projetar
uma aplicação de SARs, da perspectiva da confiança, que possa melhorar a
aceitação dos usuários ?
- 100% (20/20) dos participantes responderam ’Sim’.
- Um participante complementou que: “o catálogo traz aspectos importantes para

o desenvolvimento de aplicações SARs, acredito também ser possível em outros
domínios.”
- Outro participante complementou que: “o catalogo trás mais visibilidade e confi-

ança em aplicação SARs.”
• Questão 18 - Há algum fator de confiança no projeto de robôs socialmente

assistivos que não foi citado e você gostaria de destacar e acrescentar no
catálogo?
- 90% (18/20) dos participantes responderam que não.
- Um participante respondeu que acrescentaria fatores humanos de satisfação e

Conforto.
- Outro participante respondeu que acrescentaria a colaboração em grupo e cola-

boração com outros robôs.
• Questão 19 - Há alguma correlação que você gostaria de modificar ou acres-

centar no catálogo?
- 95% (19/20) dos dos participantes responderam que não.

175
- Um dos participante que respondeu que não, complementou que para uma maior
precisão de sua resposta precisaria um debate maior sobre o tema.
- Apenas um participante indicou uma modificação nas correlações. O participante

indicou que o NFR de Tarefa deveria ser separado a tarefa do contexto para
correlacioná-los melhor com outros fatores.
• Questão 20 - Existem outras modificações que podem ser feitas para melhorar
o catálogo? Quais?
- 70% (14/20) responderam que não.
- Um participante indicou que no momento não, seria necessário um debate maior

sobre os temas.
- Outro participante indicou que organizar o catálogo por cores.
- Outro participante sugeriu quebrar tarefa/contexto em mais partes.
- Outro participante sugeriu criar histórias de uso para ilustrar como cada fator pode
ser empregado.
- Outro participante apontou focar mais na parte de segurança.
- Outro participante sugeriu trocar os verbos nas definição dos conceitos, pois alguns
deles usam nas definições os mesmos verbos utilizados no conceito.
De acordo com as questões 16 a 20 concluímos que o catálogo apresentou uma boa

abrangência em relação aos Requisitos Não-Funcionais de confiança no domínio da Robótica
Socialmente Assistiva. A maior parte dos fatores de Confiança que os participantes sugeriram
ou destacaram como importantes foram contemplados no catálogo. Alguns participantes re-
alizaram observações sobre os requisitos apresentados, como a inclusão de novos requisitos e
pequenas modificações nos requisitos existentes.
Nas correlações não houveram discordâncias, a maior parte dos participantes concordaram
com elas, apenas um dos participante sugeriu modificações. Os participantes também suge-
riram algumas modificações para a melhoria do catálogo. Dessa forma, essas contemplações
serão levadas em consideração para versões futuras do catálogo com o objetivo de melhorar a
usabilidade, corrigir possíveis erros e aumentar a sua abrangência.
176
5.3 LIMITAÇÕES
Em relação às avaliações realizadas para avaliar a nossa proposta apontamos algumas

limitações. Para a Prova de Conceito, acreditamos que se o catálogo fosse aplicado a outros
sistemas robóticos do tipo SARs e em aplicações com outros contextos, poderíamos ter uma
noção mais ampla do que o catálogo está abrangendo.
Na aplicação do questionário apresentamos como limitação o número pequeno de parti-
cipantes, já que um número maior de participantes ofereceria resultados mais consistentes
sobre o catálogo proposto. Além disso, também tem a questão do perfil dos especialistas. A
maior parte deles ou têm nenhuma ou têm pouca experiência com SARs (75%); assim, um
número maior de especialistas de SARs poderia analisar melhor a relevância dos conceitos
apresentados.
Neste capítulo, foi realizada uma Prova de Conceito no contexto de fisioterapia, utilizando o
sistema robótico NAO para ilustrar a aplicação do nosso catálogo de Requisitos Não-Funcionais
de Confiança para Robôs Socialmente Assistivos. Logo após, a Prova de Conceito foi avaliada
através de entrevistas com especialistas das áreas de NFR Framework e Interação Humano-
Robô.
Além disso, foi realizada uma avaliação com Engenheiros de Requisitos através da aplicação
de um questionário para avaliar a nossa proposta. Os resultados obtidos desta avaliação foram
considerados positivos, pois indicam que os objetivos deste trabalho foram alcançados. A
aplicação da prova de Conceito foi importante para verificar como o catálogo pode ajudar
desenvolvedores e projetistas de Robôs Socialmente Assistivos em um contexto real. Observa-
se que o catálogo NFR4TRUST se mostrou útil e colaborou com o processo de elicitação e
especificação do sistema proposto.
O questionário aplicado aos especialistas considerou a opinião de acadêmicos da área de
Engenharia de Requisitos com perfis diferentes. Observamos que o catálogo NFR4TRUST foi
bem avaliado sobre perspectivas relevantes da pesquisa.
No próximo capítulo apresentaremos alguns trabalhos relacionados, nossas conclusões com
relação ao trabalho exposto, contribuições, algumas limitações da pesquisa e propostas de
trabalhos futuros.
177
6 CONCLUSÃO
Esta seção tem como objetivo apresentar os trabalhos relacionados com a pesquisa de-
senvolvida nesta dissertação, bem como as considerações finais sobre os principais tópicos
abordados, incluindo as contribuições alcançadas e indicações para trabalhos futuros.
6.1 TRABALHOS RELACIONADOS
Os principais trabalhos que contribuíram para a criação da taxonomia adaptada que serviu
como base para o catálogo desenvolvido nesta pesquisa foram: (HANCOCK et al., 2011; SCHA-
EFER, 2013; SCHAEFER et al., 2016; LANGER et al., 2019). Esses trabalhos encontram-se em
detalhes na seção 3. Na Tabela 10, é possível observar uma versão geral da comparação desses
trabalhos relacionados com alguns aspectos desta dissertação.
Tabela 10 – Comparação dos trabalhos relacionados sobre aspectos observados

Preocupação com
Trabalhos Possuí Taxonomia Trata de Confiança (Trust) Trata de HRI Trata de SARs
Segurança (Safety)/ Privacidade
Hancock, Peter A., et al. (2011) Sim Sim Sim Não Não
Schaefer, Kristin E. (2013) Sim Sim Sim Não Não
Schaefer, Kristin E., et al. (2016) Sim Sim Não Não Não
Langer, Allison, et al. (2019) Não Sim Sim Sim Sim
NFR4TRUST Sim Sim Sim Sim Sim
Não foi encontrado na literatura nenhum catálogo que trate de Requisitos Não-Funcionais
de Confiança (Trust) específico para SARs. Existe na literatura alguns trabalhos que inves-
tigam a Confiança como um NFR e utilizam a notação NFR Framework para representá-los
(CYSNEIROS; LEITE, 2020; KWAN; CYSNEIROS; LEITE, 2021). Apesar desses trabalhos não se
relacionarem diretamente com a área de Interação Humano-Robô, alguns de seus aspectos
ajudam na construção do conceito de Confiança como uma qualidade.
A seguir será apresentado um pouco sobre esses trabalhos.
6.1.1 Non-functional requirements orienting the development of socially responsi-

ble software
No trabalho de Cysneiros e Leite (2020) o conceito de confiança é tratado de uma perspec-

tiva social, considerando a confiança em software baseado em Inteligência Artificial (IA), do
178
ponto de vista dos usuários. Os autores afirmam que existe um deficit de confiança quando se
trata em aceitar IA e outros recursos tecnológicos baseados nela e, dependendo do quão critico
é o domínio, os consumidores parecem confiar menos nesses softwares para tomar decisões.
Além disso, os autores alegam que o uso do conhecimento de Responsabilidade Social
Corporativa (RSC) ajuda engenheiros de software a desenvolverem produtos mais confiáveis
e oferecem benefícios que ajudam a: reter clientes e aumentar a participação no mercado e
a desenvolver um sistema socialmente responsável que provavelmente terá alta demanda no
futuro próximo. As principais contribuições do trabalho são a extração de qualidades básicas
como a ética, segurança e privacidade, do âmbito das ciências sociais, para que softwares soci-
almente responsáveis sejam representados como catálogos SIG pela notação NFR Framework.
Apesar do trabalho de Cysneiros e Leite (2020) abordar o conceito de confiança como um
requisito não-funcional e em uma temática que pode-se relacionar a área da robótica, o tra-
balho não apresentou uma catalogação de requisitos mais amplo que seja muito pertinente ao
desenvolvimento de Robôs Socialmente Assistivos.
6.1.2 Towards Achieving Trust Through Transparency and Ethics
No estudo realizado por Kwan, Cysneiros e Leite (2021), os autores utilizaram os princípios
da teoria fundamentada para eliciar conhecimentos relacionados à Confiança, Ética e Transpa-
rência. Eles abordaram essas qualidades como Requisitos Não-Funcionais, com a finalidade de
construir catálogos para auxiliar a construção de Software Socialmente Responsável (Socially
Responsible Software). Em sua pesquisa, os autores constroem o corpus com uma coleção
selecionada da literatura sobre Responsabilidade Social Corporativa, com ênfase em Ética Em-
presarial. Um dos desafios encontrados no trabalho é o de como codificar o conhecimento da
perspectiva social, principalmente através da visão da Responsabilidade Social Corporativa,
sobre como as organizações ou instituições alcançam a confiabilidade.
O estudo mostra uma primeira abordagem para trazer novos conceitos emergentes na
sociedade (Transparência e Ética) para o processo de engenharia de requisitos, relacionando
esses aspectos com o objetivo de alcançar a Confiança, que é um princípio fundamental para a
RSC. Os autores inspiram-se no trabalho de Cysneiros e Leite (2020), de forma a sustentar o
conceito de software com responsabilidade social, desenvolvendo um catálogo inicial de NFR
sobre os efeitos da Transparência e Ética na Confiança. Dessa forma, assim como o trabalho de
Cysneiros e Leite (2020), o catálogo de Kwan, Cysneiros e Leite (2021) traz uma perspectiva
179
interessante de Confiança como NFR, que auxilia a forma como o Catálogo desenvolvido nessa
dissertação é construído, porém, esse trabalho não está diretamente relacionado a Interação
Humano-Robô ou Robôs Socialmente Assistivos.
Nossa pesquisa usou como base alguns trabalhos relacionados a criação de catálogos NFRs
em outras áreas (SILVA, 2019; PORTUGAL, 2020; SADI, 2020). Esses trabalhos serão apresen-
tados a seguir.
6.1.3 NFR4ES: Um Catálogo de Requisitos Não-Funcionais para Sistemas Embar-

cados
Silva (2019) apresenta um Catálogo de Requisitos Não-Funcionais voltado para Sistemas

Embarcados, visando apoiar a elicitação e especificação de requisitos neste domínio. O autor
utiliza a notação NFR Framework e propõe uma abordagem para criação de um catálogo de
NFRs composto por um processo de 3 fases, no qual se tem um fluxo de oito etapas que
devem ser seguidas. Essas etapas são: Identificar os NFRs; Coletar as definições e atributos
desses NFRs; Desenvolver a taxonomia; Criar o catálogo; Complementar o catálogo com outras
fontes; Submeter o catálogo piloto a análise de especialistas; Aplicar o Catálogo em uma Prova
de Conceito; e, Avaliar o Catálogo com especialistas.
O trabalho de Silva (2019) não trata de requisitos de Confiança e nem está voltado para
o domínio de Robôs Socialmente Assistivos, porém, o processo de construção de catálogo que
foi proposto na pesquisa auxiliou na construção do nosso Catálogo NFR4TRUST.
6.1.4 Speeding-Up Non-Functional Requirements Elicitation
O estudo realizado por Portugal (2020) considera a semi-automação de requisitos não-

funcionais como uma estratégia fundamental para a definição de requisitos, levando em con-
sideração a disponibilidade do Big Data, como por exemplo o GitHub. Segundo o autor, a
elicitação de NFRs, dentro da automação da leitura de documentos, pode gerenciar o con-
junto de informações valiosas existentes nos dados disponíveis. Esse trabalho contribuiu com
um Catálogo SIG que organiza o conhecimento sobre qualidades que são fundamentais para a
elicitação de NFRs semi-automatizados.
Apesar do trabalho de (PORTUGAL, 2020) não desenvolver um Catálogo voltado para
Confiança ou Robôs Socialmente Assistivos, os passos utilizados para modelar os NFRs e sua
180
organização dos softgoals colaborou para construção do Catálogo NFR4TRUST.
6.1.5 Assisting with API design through reusing design knowledge
No trabalho de Sadi (2020) é apresentado o Rational API Designer (RAPID), um assis-

tente que fornece consultoria sobre como projetar requisitos não-funcionais na arquitetura de
Interfaces de Programação de Aplicativos (APIs). O RAPID é implementado com uma am-
pla gama de conhecimento especializado sobre design de API, coletado sistematicamente e
extraído da literatura. O conhecimento de design da API foi codificado como um conjunto
de 156 catálogos usando a linguagem NFR. Em sua pesquisa Sadi (2020) não utiliza a estru-
tura original do NFR Framework. Segundo o autor, o seu trabalho complementa o trabalho
desenvolvido em Chung et al. (2000), que originalmente carece de diretrizes sobre como des-
crever conhecimento de design na lógica multivalorada do NFR. Por isso, o trabalho propõe
um conjunto de diretrizes para descrever o conhecimento de design na linguagem NFR.
Embora o processo de construção dos Catálogos apresentados na pesquisa de Sadi (2020)
não utilizem o NFR Framework da forma proposta por Chung et al. (2000), ou represente
catálogos relacionados à Confiança ou Robôs Socialmente Assistivos, as diretrizes propostas
para a construção dos gráficos SIG usando a linguagem NFR apoiou a construção do Catálogo
NFR4TRUST.
Na Tabela 11 é possível observar um síntese da comparação dos trabalhos relacionados a
essa pesquisa.
Tabela 11 – Comparação dos trabalhos relacionados sobre aspectos observados
Representa Trata de Trata de NFRs

Trata de NFRs
Trabalhos catálogo com Confiança de Confiança
para SARs
NFR Framework (Trust) em HRI
Cysneiros e Leite (2020) Sim Sim Não Não
Kwan, Cysneiros e Leite (2021) Sim Sim Não Não
Silva (2019) Sim Não Não Não
Portugal (2020) Sim Não Não Não
Sadi (2020) Sim Não Não Não
NFR4TRUST Sim Sim Sim Sim
181
6.2 RESULTADOS
A pesquisa realizada neste trabalho possibilitou responder as seguintes questões de pes-

quisa:
• O que se caracteriza como um Requisito Não-Funcional de Confiança para o

domínio de Robôs Socialmente Assistivos?
São aqueles requisitos associados aos fatores de Confiança da taxonomia que descrevem
propriedades, características ou restrições que os Robôs devem ter. Também podem ser
atributos de qualidade relacionados aos fatores. Neste trabalho, inicialmente foram iden-
tificados 30 fatores que podem derivar requisitos não-funcionais: Idade, Personalidade,
Propensão de confiança, Controle da atenção, Fadiga, Estresse, Experiências
Prévias, Habilidade de uso, Expectativa, Atitudes, Satisfação, Conforto, Modo
de comunicação, Aparência/Antropomorfismo, Nível de Automação, Inteligên-
cia, Personalidade do robô, Segurança/Privacidade, Comportamento, Confia-
bilidade/Erros, Feedback, Adaptabilidade, Proximidade, Interdependência de
papéis/tarefas, Composição de equipe, Modelos mentais compartilhados, Im-
pacto Social/Cultural, Riscos/Incerteza, Contexto/Tipo de tarefa/Complexi-
dade, e Ambiente físico.
• Quais Requisitos Não-Funcionais de Confiança devem ser levados em conside-

ração no desenvolvimento de Robôs Socialmente Assistivos?
O resultado deste levantamento apresentou 124 Requisitos Não-Funcionais que devem

ser levados em consideração em projetos de Robôs Socialmente Assistivos do tipo hu-
manoide. Esses requisitos são apresentados no Capitulo 4.
• Quais as relações entre os Requisitos Não-Funcionais de Confiança para Robôs

Socialmente Assistivos?
São apresentados através da Tabela 7 de correlações e dos fragmentos da Figura 14 que

são visões parciais do SIG , que são as Figuras (15, 17, 19, 20, 22, 21, 23, 24, 25, 26,
28, 27, 29, 30) com correlações referentes a cada NFR individualmente.
• Como desenvolver um catálogo de Requisitos Não-Funcionais de Confiança no

domínio de Robôs Socialmente Assistivos para apoiar a elicitação e especifi-
cação de requisitos?
182
Para desenvolver o catálogo foi criado um processo com 3 fases e 9 tarefas. Este processo
é apresentado na Figura 13. Todo o detalhamento sobre as atividades e tarefas do
processo é apresentado na seção 4.2.
6.3 CONSIDERAÇÕES E DIFICULDADES PARA CONDUZIR A PESQUISA
No desenrolar deste trabalho, surgiram alguns questionamentos e os artefatos gerados na

dissertação podem ser posteriormente aprimorados e re-avaliados.
• A Pandemia afetou o andamento dessa dissertação e sua forma de avaliação.
• A área de Interação Humano-Robô apresenta algumas inconsistências quanto a seus

termos, conceitos, definições, subcategorias, etc.
• No levantamento dos requisitos para adaptação da Taxonomia foram encontradas incon-

sistências em nomenclaturas e definições, o que dificultou o mapeamento dos fatores.
• Existe uma lacuna de trabalhos experimentais de confiança na área de HRI e de trabalhos

relacionados a confiança em SARs.
• Existe uma lacuna de trabalhos de Engenharia de Requisitos e robôs de características

sociais.
• O catálogo desenvolvido não incorpora todos os fatores de Confiança (Trust) e seus

aspectos relacionados.
• A modelagem de Confiança como Requisito Não-Funcional foi feita sob uma ótica “de
baixo para cima”, mais focada na Taxonomia de Robôs Socialmente Assistivos Huma-
noides, ao contrário de uma abordagem mais ampla/abstrata sobre Confiança.
• As ferramentas de modelagem do NFR Framework não possuem uma usabilidade ami-

gável.
• Embora a aplicação do questionário tenha sido realizada com 20 participantes com obje-
tivo de avaliar o catálogo sobre perspectivas relevantes da pesquisa, é necessário realizar
mais avaliações sobre o uso do catálogo por mais profissionais da área de Interação
Humano-Robô e de Robôs Socialmente Assistivos.
183
• Após análise dos perfis dos participantes da avaliação, considera-se que pode ter ocorrido
o efeito Dunning-Kruger, no qual os participantes consideraram suas competências mais
otimista que a realidade.
• O desenvolvimento das operacionalizações do catálogo foi limitado pelo conhecimento

do especialista envolvido na prova de conceito.
6.4 CONTRIBUIÇÕES
Esta dissertação realizou uma revisão da literatura sobre confiança para identificar os as-
pectos relevantes em Robôs Socialmente assistivos. Como contribuições, foi apresentado um
modelo adaptado de taxonomia de Confiança para SARs com um conjunto de Requisitos
Não-Funcionais de Confiança que podem ser levados em consideração em projetos de Robôs
Socialmente Assistivos. A organização desses requisitos em forma de Catálogo facilita a ras-
treabilidade dos mesmos contribuindo para a compreensão de suas origens.
Esta dissertação também apresentou o processo utilizado no desenvolvimento do catálogo
NFR4TRUST que permite auxiliar na descoberta dos requisitos iniciais de confiança de um
SARs, bem como, apresentou uma Prova de Conceito utilizando o Catálogo com o robô NAO.
6.5 TRABALHOS FUTUROS
A partir dos resultados obtidos nesta pesquisa e as limitações encontradas, alguns trabalhos
devem ser realizados para complementar ou dar prosseguimento à proposta desta dissertação,
como exemplo:
• Desenvolver uma ontologia de Confiança (Trust).
• Organizar e incrementar a taxonomia de Confiança com novos fatores encontrados na

literatura.
• Validar a taxonomia de Confiança para SARs através de experimentos.
• Expandir o catálogo de NFRs, com a inclusão de mais fatores de Confiança.
• Aplicar a técnica STPA-Engineering for Humans para analisar os fatores humanos, ela-
borando cenários que gerem perda de confiança e diretrizes para mitiga-las.
184
• Aplicar o catálogo desenvolvido em outras aplicações de SARs.
• Desenvolver uma ferramenta para apoiar a instanciação do catálogo e a construção dos

cartões de especificação.
• Criar um repositório para armazenar, consultar e modificar os Requisitos Não-Funcionais

de Confiança do Catálogo NFR4TRUST.
• Tornar o catálogo interativo, podendo expandir o detalhamento dos NFRs ou escondê-

los.
6.6 CONSIDERAÇÕES FINAIS
Esse trabalho apresentou o Catálogo de Requisitos Não-Funcionais de Confiança para

Robôs Socialmente Assistivos, visando apoiar a elicitação e especificação de requisitos neste
domínio. Para esse fim, foi apresentado inicialmente no Capítulo 1 o contexto do trabalho,
assim como a caracterização do problema e a motivação do trabalho.
No capítulo 2 foi apresentada uma descrição das principais áreas que fornecem o alicerce
para esse trabalho. Em particular, discorremos sobre a fundamentação de Interação Humano-
Robô, Confiança, Robótica Socialmente Assistiva, Requisitos Não-Funcionais, bem como sobre
NFR Framework. Portanto, revisamos os principais conceitos e definições dessas áreas.
No capítulo 3 foi apresentado as três principais taxonomias de confiança relacionadas a
literatura de Interação Humano-Robô e Interação Humano-Automação. Os fatores apresen-
tados na literatura foram investigados e contextualizados e sua viabilidade para utilização
na Confiança em Robôs Socialmente Assistivos proporcionou uma taxonomia adaptada para
Confiança em SARs.
No capítulo 4 foi detalhado o processo de construção do catálogo NFR4TRUST. Ainda
neste capítulo, apresentamos as definições dos requisitos do catálogo e um grafo SIG para
apoiar Engenheiros de Requisitos e projetistas destes sistemas robóticos nas etapas de elicitação
e especificação.
No capítulo 5 foi apresentada a avaliação do catálogo proposto. O método de avaliação,
procedimentos realizados e a forma de coleta e análise dos dados foram descritos. No fim,
os resultados da avaliação foram apresentados. No último capítulo, foram apresentadas as
limitações, as principais contribuições do trabalho e os trabalhos futuros.
185
Assim sendo, podemos concluir que o objetivo do trabalho foi alcançado, onde o catálogo
NFR4TRUST foi desenvolvido e avaliado. Ele pode ser utilizado no processo de Engenharia
de Requisitos, mais especificamente nas etapas de elicitação e especificação em projetos de
desenvolvimento ou planejamento de aplicações de Robôs Socialmente Assistivos com o intuito
de mostrar as características que devem ser levadas em consideração para que o robô transmita
confiança.
186
REFERÊNCIAS
AAKER, D. A.; KUMAR, V.; DAY, G. S. Pesquisa de marketing. tradutor: Reynaldo

Cavalheiro Marcondes. [S.l.]: São Paulo: Editora Atlas, 2004.
ABBASS, H. A.; LEU, G.; MERRICK, K. A review of theoretical and practical challenges of
trusted autonomy in big data. IEEE Access, IEEE, v. 4, p. 2808–2830, 2016.
ABBASS, H. A.; SCHOLZ, J.; REID, D. J. Foundations of trusted autonomy. [S.l.]: Springer
Nature, 2018.
ADAMIK, M.; DUDZINSKA, K.; HERSKIND, A. J.; REHM, M. The difference between trust
measurement and behavior: Investigating the effect of personalizing a robot’s appearance
on trust in hri. In: IEEE. 2021 30th IEEE International Conference on Robot & Human
Interactive Communication (RO-MAN). [S.l.], 2021. p. 880–885.
AGUIRRE, A.; CASAS, J.; CéSPEDES, N.; MúNERA, M.; RINCON-RONCANCIO, M.;
CUESTA-VARGAS, A.; CIFUENTES, C. A. Feasibility study: Towards estimation of fatigue
level in robot-assisted exercise for cardiac rehabilitation. In: 2019 IEEE 16th International
Conference on Rehabilitation Robotics (ICORR). [S.l.: s.n.], 2019. p. 911–916.
ALAIAD, A.; ZHOU, L. The determinants of home healthcare robots adoption: An empirical
investigation. International journal of medical informatics, Elsevier, v. 83, n. 11, p. 825–840,
2014.
ALARCON, G. M.; LYONS, J. B.; CHRISTENSEN, J. C.; BOWERS, M. A.; KLOSTERMAN,

S. L.; CAPIOLA, A. The role of propensity to trust and the five factor model across the trust
process. Journal of Research in Personality, Elsevier, v. 75, p. 69–82, 2018.
ALDEBARAN. Aldebaran documentation. 2017. Disponível em: <http://doc.aldebaran.com/

2-1/family/body_type.html>.
ALNAJJAR, F.; CAPPUCCIO, M.; RENAWI, A.; MUBIN, O.; LOO, C. K. Personalized robot
interventions for autistic children: an automated methodology for attention assessment.
International Journal of Social Robotics, Springer, v. 13, n. 1, p. 67–82, 2021.
AMUDHU, L. T. A review on the use of socially assistive robots in education and elderly
care. Materials Today: Proceedings, Elsevier, 2020.
ANDERSON, D.; KELLER, J. M.; SKUBIC, M.; CHEN, X.; HE, Z. Recognizing falls from
silhouettes. In: IEEE. 2006 International Conference of the IEEE Engineering in Medicine and
Biology Society. [S.l.], 2006. p. 6388–6391.
ANDREASSON, R.; ALENLJUNG, B.; BILLING, E.; LOWE, R. Affective touch in

human–robot interaction: conveying emotion to the nao robot. International Journal of Social
Robotics, Springer, v. 10, n. 4, p. 473–491, 2018.
ARGYLE, M. Non-verbal communication in human social interaction. Cambridge U. Press,

1972.
ARGYLE, M.; DEAN, J. Eye-contact, distance and affiliation. Sociometry, JSTOR, p.

289–304, 1965.
187
ASHLEIGH, M. J.; STANTON, N. A. Trust: Key elements in human supervisory control

domains. Cognition, Technology & Work, Springer, v. 3, n. 2, p. 92–100, 2001.
AVEN, T.; RENN, O. On risk defined as an event where the outcome is uncertain. Journal of
Risk Research, Routledge, v. 12, n. 1, p. 1–11, 2009.
AXELROD, R. H. Deciding to trust a stranger: An exploratory study of how people make
decisions based on general interpersonal trust (with implications for organizational settings).
[S.l.]: The George Washington University, 2004.
AXELSSON, M.; OLIVEIRA, R.; RACCA, M.; KYRKI, V. Social robot co-design canvases:
A participatory design framework. ACM Transactions on Human-Robot Interaction (THRI),
ACM New York, NY, v. 11, n. 1, p. 1–39, 2021.
AZIZ, A. A.; MOGANAN, F. F. M.; ISMAIL, A.; LOKMAN, A. M. Autistic children’s
kansei responses towards humanoid-robot as teaching mediator. Procedia Computer Science,
Elsevier, v. 76, p. 488–493, 2015.
BABEL, F.; KRAUS, J.; MILLER, L.; KRAUS, M.; WAGNER, N.; MINKER, W.; BAUMANN,
M. Small talk with a robot? the impact of dialog content, talk initiative, and gaze behavior of
a social robot on trust, acceptance, and proximity. International Journal of Social Robotics,
Springer, v. 13, n. 6, p. 1485–1498, 2021.
BANDURA, A. Self-efficacy mechanism in human agency. American psychologist, American
Psychological Association, v. 37, n. 2, p. 122, 1982.
BANDURA, A.; FREEMAN, W. H.; LIGHTSEY, R. Self-efficacy: The exercise of control.
[S.l.]: Springer, 1999.
BARBER, B. The Logik and Limits of trust.–New Brunswik. [S.l.]: NJ: Rutgers Univ. Press,
1983.
BARG-WALKOW, L.; MITZNER, T.; ROGERS, W. Technology experience profile
(hfa-tr-1402). Georgia Institute of Technology, School of. . . . Atlanta, GA, 2014.
BARTNECK, C.; KANDA, T.; MUBIN, O.; MAHMUD, A. A. Does the design of a robot
influence its animacy and perceived intelligence? International Journal of Social Robotics,
Springer, v. 1, n. 2, p. 195–204, 2009.
BARTNECK, C.; KULIĆ, D.; CROFT, E.; ZOGHBI, S. Measurement instruments for the
anthropomorphism, animacy, likeability, perceived intelligence, and perceived safety of robots.
International journal of social robotics, Springer, v. 1, n. 1, p. 71–81, 2009.
BARTNECK, C.; SUZUKI, T.; KANDA, T.; NOMURA, T. The influence of people’s culture
and prior experiences with aibo on their attitude towards robots. Ai & Society, Springer,
v. 21, n. 1, p. 217–230, 2007.
BEER, J. M.; FISK, A. D.; ROGERS, W. A. Toward a framework for levels of robot autonomy
in human-robot interaction. Journal of human-robot interaction, NIH Public Access, v. 3,
n. 2, p. 74, 2014.
BEER, J. M.; LILES, K. R.; WU, X.; PAKALA, S. Affective human–robot interaction. In:
Emotions and affect in human factors and human-computer interaction. [S.l.]: Elsevier, 2017.
p. 359–381.
188
BELPAEME, T.; KENNEDY, J.; RAMACHANDRAN, A.; SCASSELLATI, B.; TANAKA,

F. Social robots for education: A review. Science robotics, American Association for the
Advancement of Science, v. 3, n. 21, p. eaat5954, 2018.
BEUSCHER, L. M.; FAN, J.; SARKAR, N.; DIETRICH, M. S.; NEWHOUSE, P. A.; MILLER,
K. F.; MION, L. C. Socially assistive robots: measuring older adults’ perceptions. Journal of
gerontological nursing, SLACK Incorporated Thorofare, NJ, v. 43, n. 12, p. 35–43, 2017.
BINOTTE, V. Desenvolvimento de um robô socialmente assistivo com controle
baseado em comportamento de seleção de ação para interação com crianças com tea.
Dissertação (Mestrado) — Universidade Federal do Espírito Santo, 2018. Disponível em:
<http://repositorio.ufes.br/handle/10/9569>.
BIROS, D. P.; DALY, M.; GUNSCH, G. The influence of task load and automation trust on
deception detection. Group Decision and Negotiation, Springer, v. 13, n. 2, p. 173–189, 2004.
BITAN, Y.; MEYER, J. Self-initiated and respondent actions in a simulated control task.
Ergonomics, Taylor & Francis, v. 50, n. 5, p. 763–788, 2007.
BJÖRKLUND, L. Knock on Wood: Does Material Choice Change the Social Perception of
Robots? 2018.
BLAINE, J. D.; CLELAND-HUANG, J. Software quality requirements: How to balance
competing priorities. IEEE Software, IEEE, v. 25, n. 2, p. 22–24, 2008.
BLOMQVIST, K. The many faces of trust. Scandinavian Journal of Management, v. 13,
n. 3, p. 271–286, 1997. ISSN 0956-5221. Disponível em: <https://www.sciencedirect.com/
science/article/pii/S0956522197846441>.
BOCCANFUSO, L.; SCARBOROUGH, S.; ABRAMSON, R. K.; HALL, A. V.; WRIGHT,
H. H.; O’KANE, J. M. A low-cost socially assistive robot and robot-assisted intervention for
children with autism spectrum disorder: field trials and lessons learned. Autonomous Robots,
Springer, v. 41, n. 3, p. 637–655, 2017.
BOEHM, B. W. A spiral model of software development and enhancement. Computer, v. 21,
n. 5, p. 61–72, 1988.
BOEHM, B. W.; BROWN, J. R.; LIPOW, M. Quantitative evaluation of software quality. In:
Proceedings of the 2nd international conference on Software engineering. [S.l.: s.n.], 1976. p.
592–605.
BRADWELL, H. L.; NOURY, G. E. A.; EDWARDS, K. J.; WINNINGTON, R.; THILL, S.;
JONES, R. B. Design recommendations for socially assistive robots for health and social care
based on a large scale analysis of stakeholder positions: Social robot design recommendations.
Health Policy and Technology, Elsevier, v. 10, n. 3, p. 100544, 2021.
BREAZEAL, C. Designing sociable robots. [S.l.]: MIT press, 2004.
BREAZEAL, C.; DAUTENHAHN, K.; KANDA, T. Social robotics. Springer handbook of
robotics, Springer, p. 1935–1972, 2016.
BREAZEAL, C.; GRAY, J.; HOFFMAN, G.; BERLIN, M. Social robots: Beyond tools to
partners. In: IEEE. RO-MAN 2004. 13th IEEE International Workshop on Robot and Human
Interactive Communication (IEEE Catalog No. 04TH8759). [S.l.], 2004. p. 551–556.
189
BREAZEAL, C.; KIDD, C. D.; THOMAZ, A. L.; HOFFMAN, G.; BERLIN, M. Effects of
nonverbal communication on efficiency and robustness in human-robot teamwork. In: IEEE.
2005 IEEE/RSJ international conference on intelligent robots and systems. [S.l.], 2005. p.
708–713.
BREAZEAL, C. L.; BREIVIK, L. E.; HASSELGREN, A.; CARNIE, A.; PULLUM, K.;
LARSON, J. A.; MCCARTHY, J. J. Designing sociable robots. [S.l.]: MIT Press, 2002.
v. 200.
BROEK, E. L. van den; WESTERINK, J. H. Considerations for emotion-aware consumer

products. Applied ergonomics, Elsevier, v. 40, n. 6, p. 1055–1064, 2009.
BROOKS, D. J. A human-centric approach to autonomous robot failures. Tese (Doutorado)

— University of Massachusetts Lowell, 2017.
BRUGALI, D.; AGAH, A.; MACDONALD, B.; NESNAS, I. A.; SMART, W. D. Trends in
robot software domain engineering. In: Software Engineering for Experimental Robotics. [S.l.]:
Springer, 2007. p. 3–8.
BURGOON, J. K.; HALE, J. L. Nonverbal expectancy violations: Model elaboration and

application to immediacy behaviors. Communications Monographs, Taylor & Francis, v. 55,
n. 1, p. 58–79, 1988.
BURKE, J. L.; MURPHY, R. R.; ROGERS, E.; LUMELSKY, V. J.; SCHOLTZ, J. Final report
for the darpa/nsf interdisciplinary study on human-robot interaction. IEEE Transactions on
Systems, Man, and Cybernetics, Part C (Applications and Reviews), IEEE, v. 34, n. 2, p.
103–112, 2004.
CABIBIHAN, J.-J.; JAVED, H.; ANG, M.; ALJUNIED, S. M. Why robots? a survey on the
roles and benefits of social robots in the therapy of children with autism. International journal
of social robotics, Springer, v. 5, n. 4, p. 593–618, 2013.
CAINE, K. E.; ZIMMERMAN, C. Y.; SCHALL-ZIMMERMAN, Z.; HAZLEWOOD, W. R.;

CAMP, L. J.; CONNELLY, K. H.; HUBER, L. L.; SHANKAR, K. Digiswitch: A device to
allow older adults to monitor and direct the collection and transmission of health information
collected at home. Journal of medical systems, Springer, v. 35, n. 5, p. 1181–1195, 2011.
CALDWELL, J. A.; MALLIS, M. M.; CALDWELL, J. L.; PAUL, M. A.; MILLER, J. C.; NERI,
D. F. Fatigue countermeasures in aviation. Aviation, space, and environmental medicine,
Aerospace Medical Association, v. 80, n. 1, p. 29–59, 2009.
CAMERON, D.; AITKEN, J.; COLLINS, E.; BOORMAN, L.; CHUA, A.; FERNANDO, S.;
MCAREE, O.; HERNANDEZ, U. M.; LAW, J. Framing factors: The importance of context
and the individual in understanding trust in human-robot interaction. Sheffield, 2015.
CASTRO, C. d. M. Estrutura e apresentação de publicações científicas. [S.l.]: São Paulo:

McGraw-Hill, 1976.
CASTRO-GONZÁLEZ, Á.; ADMONI, H.; SCASSELLATI, B. Effects of form and motion

on judgments of social robots animacy, likability, trustworthiness and unpleasantness.
International Journal of Human-Computer Studies, Elsevier, v. 90, p. 27–38, 2016.
190
CHAN, J.; NEJAT, G. Social intelligence for a robot engaging people in cognitive training
activities. International Journal of Advanced Robotic Systems, SAGE Publications Sage UK:
London, England, v. 9, n. 4, p. 113, 2012.
CHARALAMBOUS, G.; FLETCHER, S.; WEBB, P. The development of a scale to evaluate

trust in industrial human-robot collaboration. International Journal of Social Robotics,
Springer, v. 8, n. 2, p. 193–209, 2016.
CHEN, J.; TERRENCE, P. I. Effects of imperfect automation and individual differences

on concurrent performance of military and robotics tasks in a simulated multitasking
environment. Ergonomics, Taylor & Francis, v. 52, n. 8, p. 907–920, 2009.
CHEN, J. Y.; BARNES, M. J. Supervisory control of multiple robots: Effects of imperfect

automation and individual differences. Human Factors, Sage Publications Sage CA: Los
Angeles, CA, v. 54, n. 2, p. 157–174, 2012.
CHEN, M.; NIKOLAIDIS, S.; SOH, H.; HSU, D.; SRINIVASA, S. Planning with trust for
human-robot collaboration. In: Proceedings of the 2018 ACM/IEEE International Conference
on Human-Robot Interaction. [S.l.: s.n.], 2018. p. 307–315.
CHEW, S.; TAY, W.; SMIT, D.; BARTNECK, C. Do social robots walk or roll? In:
SPRINGER. International Conference on Social Robotics. [S.l.], 2010. p. 355–361.
CHI, O. H.; JIA, S.; LI, Y.; GURSOY, D. Developing a formative scale to measure consumers’
trust toward interaction with artificially intelligent (ai) social robots in service delivery.
Computers in Human Behavior, v. 118, p. 106700, 2021. ISSN 0747-5632. Disponível em:
<https://www.sciencedirect.com/science/article/pii/S0747563221000224>.
CHIANG, Y.-S.; CHU, T.-S.; LIM, C. D.; WU, T.-Y.; TSENG, S.-H.; FU, L.-C. Personalizing
robot behavior for interruption in social human-robot interaction. In: IEEE. 2014 IEEE
International Workshop on Advanced Robotics and its Social Impacts. [S.l.], 2014. p. 44–49.
CHICHINELLI, M.; CAZARINI, E. A contribuição da técnica de modelagem organizacional

i* ao processo de desenvolvimento de sistemas de informações, especialmente na fase de
definição de requisitos. ENCONTRO NACIONAL DE ENGENHARIA DE PRODUÇÃO, XXII
- ENEGEP-2002, 2002, Curitiba - PR. Anais. Rio de Janeiro: ABEPRO, 2002.
CHOI, H.; SWANSON, N. Chapter 5 - understanding worker trust in industrial robots for
improving workplace safety. In: NAM, C. S.; LYONS, J. B. (Ed.). Trust in Human-Robot
Interaction. Academic Press, 2021. p. 123–141. ISBN 978-0-12-819472-0. Disponível em:
<https://www.sciencedirect.com/science/article/pii/B9780128194720000058>.
CHUNG, L.; NIXON, B. A. Dealing with non-functional requirements: three experimental

studies of a process-oriented approach. In: IEEE. 1995 17th international conference on
software engineering. [S.l.], 1995. p. 25–25.
CHUNG, L.; NIXON, B. A.; YU, E.; MYLOPOULOS, J. Non-functional requirements in

software engineering. [S.l.]: Springer Science & Business Media, 2000. v. 5.
CLABAUGH, C.; MATARIĆ, M. Escaping oz: Autonomy in socially assistive robotics. Annual
Review of Control, Robotics, and Autonomous Systems, Annual Reviews, v. 2, p. 33–61,
2019.
191
CLAVELL, G. G.; FROWD, P. M. Using societal impact assessment (sia) to improve

technological development in the field of crime prevention. In: SPRINGER. International
Conference on Social Informatics. [S.l.], 2014. p. 118–124.
CLELAND-HUANG, J. Toward improved traceability of non-functional requirements. In:
Proceedings of the 3rd international workshop on Traceability in emerging forms of software
engineering. [S.l.: s.n.], 2005. p. 14–19.
COECKELBERGH, M.; POP, C.; SIMUT, R.; PECA, A.; PINTEA, S.; DAVID, D.;
VANDERBORGHT, B. A survey of expectations about the role of robots in robot-assisted
therapy for children with asd: ethical acceptability, trust, sociability, appearance, and
attachment. Science and engineering ethics, Springer, v. 22, n. 1, p. 47–65, 2016.
CONALLEN, J. Building Web Applications with UML Second Edition.[ed.] Inc. [S.l.]: Pearson
Education. Segunda edición. Boston: Addison Wesley, 2002.
CONVERSE, S.; CANNON-BOWERS, J.; SALAS, E. Shared mental models in expert team
decision making. Individual and group decision making: Current issues, Hillsdale, v. 221, p.
221–46, 1993.
COOK, K. Trust in society. [S.l.]: Russell Sage Foundation, 2001.
COOPER, C. L.; MARSHALL, J. Occupational sources of stress: A review of the literature
relating to coronary heart disease and mental ill health. From stress to wellbeing volume 1,
Springer, p. 3–23, 2013.
CORREIA, F.; ALVES-OLIVEIRA, P.; MAIA, N.; RIBEIRO, T.; PETISCA, S.; MELO,
F. S.; PAIVA, A. Just follow the suit! trust in human-robot interactions during card game
playing. In: IEEE. 2016 25th IEEE international symposium on robot and human interactive
communication (RO-MAN). [S.l.], 2016. p. 507–512.
CORREIA, F.; GUERRA, C.; MASCARENHAS, S.; MELO, F. S.; PAIVA, A. Exploring the
impact of fault justification in human-robot trust. In: Proceedings of the 17th international
conference on autonomous agents and multiagent systems. [S.l.: s.n.], 2018. p. 507–513.
COSENZO, K. A.; PARASURAMAN, R.; NOVAK, A.; BARNES, M. Implementation of
automation for control of robotic systems. [S.l.], 2006.
CRAIK, K. The Nature of Explanation Cambridge University Press: Cambridge. [S.l.]:
England, 1943.
CUCCINIELLO, I.; SANGIOVANNI, S.; MAGGI, G.; ROSSI, S. Validation of robot interactive
behaviors through users emotional perception and their effects on trust. In: IEEE. 2021 30th
IEEE International Conference on Robot & Human Interactive Communication (RO-MAN).
[S.l.], 2021. p. 197–202.
CUEVAS, H. M.; FIORE, S. M.; CALDWELL, B. S.; STRATER, L. Augmenting team
cognition in human-automation teams performing in complex operational environments.
Aviation, space, and environmental medicine, Aerospace Medical Association, v. 78, n. 5, p.
B63–B70, 2007.
CYSNEIROS, L.; YU, E.; LEITE, J. Cataloguing non-functional requirements as softgoal
networks. In: Proceedings of the REAA Workshop at the 11 th Requirements Engineering
Conference. [S.l.: s.n.], 2003. p. 13–20.
192
CYSNEIROS, L. M.; BREITMAN, K. K.; LOPEZ, C.; ASTUDILLO, H. Querying software

interdependence graphs. In: IEEE. 2008 32nd Annual IEEE Software Engineering Workshop.
[S.l.], 2008. p. 108–112.
CYSNEIROS, L. M.; LEITE, J. Requisitos não funcionais: da elicitação ao modelo conceitual.

PhDTese, PUC-RJ, 2001.
CYSNEIROS, L. M.; LEITE, J. C. S. do P. Utilizando requisitos não funcionais para análise

de modelos orientados a dados. In: WER. [S.l.: s.n.], 1998. p. 149–158.
CYSNEIROS, L. M.; LEITE, J. C. S. do P. Non-functional requirements orienting the

development of socially responsible software. In: Enterprise, Business-Process and Information
Systems Modeling. [S.l.]: Springer, 2020. p. 335–342.
DASSONVILLE, I.; JOLLY, D.; DESODT, A. Trust between man and machine in a
teleoperation system. Reliability Engineering & System Safety, Elsevier, v. 53, n. 3, p.
319–325, 1996.
DAUTENHAHN, K. Design spaces and niche spaces of believable social robots. In:
IEEE. Proceedings. 11th ieee international workshop on robot and human interactive
communication. [S.l.], 2002. p. 192–197.
DAUTENHAHN, K. Socially intelligent robots: dimensions of human–robot interaction.

Philosophical transactions of the royal society B: Biological sciences, The Royal Society
London, v. 362, n. 1480, p. 679–704, 2007.
DAUTENHAHN, K. Human-robot interaction. The Encyclopedia of Human-Computer

Interaction, 2nd Ed., The Interaction Design Foundation, 2013.
DAVIDS, A. Urban search and rescue robots: from tragedy to technology. IEEE Intelligent
systems, IEEE, v. 17, n. 2, p. 81–83, 2002.
DAVIS, A. M. Software requirements - objects, functions, and states. In: Prentice Hall
international editions. [S.l.: s.n.], 1993.
DAVIS, F.; BAGOZZI, R.; WARSHAW, P. Bank indonesia.(2014). bank indonesia

mencanangkan gerakan nasional non tunai. http://www. bi. go. id/id/ruang-media/siaran-
pers/pages/sp_165814. aspx bank indonesia. statistik sistem pembayaran. Science, v. 35,
n. 8, p. 982–1003, 2014.
DEMERS, L.; WEISS-LAMBROU, R.; SKA, B. Quebec user evaluation of satisfaction with
assistive technology versione 2.0. The Institute for Matching Persons and Technology:
Webster, NY, 2000.
DERRYBERRY, D.; REED, M. A. Anxiety-related attentional biases and their regulation by

attentional control. Journal of abnormal psychology, American Psychological Association,
v. 111, n. 2, p. 225, 2002.
DESAI, M.; KANIARASU, P.; MEDVEDEV, M.; STEINFELD, A.; YANCO, H. Impact of
robot failures and feedback on real-time trust. In: IEEE. 2013 8th ACM/IEEE International
Conference on Human-Robot Interaction (HRI). [S.l.], 2013. p. 251–258.
DEUTSCH, M. Cooperation and trust: Some theoretical notes. Univer. Nebraska Press, 1962.
193
DICKSTEIN-FISCHER, L. A.; CRONE-TODD, D. E.; CHAPMAN, I. M.; FATHIMA, A. T.;

FISCHER, G. S. Socially assistive robots: current status and future prospects for autism
interventions. Innovation and Entrepreneurship in Health, Dove Press, v. 5, p. 15–25, 2018.
DIXON, S. R.; WICKENS, C. D. Automation reliability in unmanned aerial vehicle control:

A reliance-compliance model of automation dependence in high workload. Human factors,
SAGE Publications Sage CA: Los Angeles, CA, v. 48, n. 3, p. 474–486, 2006.
DIXON, S. R.; WICKENS, C. D.; MCCARLEY, J. S. On the independence of compliance and

reliance: Are automation false alarms worse than misses? Human factors, Sage Publications
Sage CA: Los Angeles, CA, v. 49, n. 4, p. 564–572, 2007.
DONMEZ, B.; BOYLE, L. N.; LEE, J. D.; MCGEHEE, D. V. Drivers’ attitudes toward
imperfect distraction mitigation strategies. Transportation research part F: traffic psychology
and behaviour, Elsevier, v. 9, n. 6, p. 387–398, 2006.
DRISKELL, J. E.; SALAS, E.; DRISKELL, T. Foundations of teamwork and collaboration.

American Psychologist, American Psychological Association, v. 73, n. 4, p. 334, 2018.
DRURY, J. L.; RIEK, L.; RACKLIFFE, N. A decomposition of uav-related situation awareness.

In: Proceedings of the 1st ACM SIGCHI/SIGART conference on Human-robot interaction.
[S.l.: s.n.], 2006. p. 88–94.
DSB, D. S. B. The role of autonomy in department of defense systems. task force report. Office
of the Under Secretary of Defense for Acquisition, Technology and Logistics: Washington,
DC, 2012. Disponível em: <https://irp.fas.org/agency/dod/dsb/autonomy.pdf>.
DUFFY, B. R. Anthropomorphism and the social robot. Robotics and autonomous systems,
Elsevier, v. 42, n. 3-4, p. 177–190, 2003.
EBERHART, R. C.; SHI, Y.; KENNEDY, J. Swarm intelligence. [S.l.]: Elsevier, 2001.
ERDEN, M. S. Emotional postures for the humanoid-robot nao. International Journal of

Social Robotics, Springer, v. 5, n. 4, p. 441–456, 2013.
EVERS, V.; MALDONADO, H.; BRODECKI, T.; HINDS, P. Relational vs. group
self-construal: Untangling the role of national culture in hri. In: IEEE. 2008 3rd ACM/IEEE
International Conference on Human-Robot Interaction (HRI). [S.l.], 2008. p. 255–262.
EYSSEL, F.; RUITER, L. D.; KUCHENBRANDT, D.; BOBINGER, S.; HEGEL, F. ‘if you
sound like me, you must be more human’: On the interplay of robot and user features on
human-robot acceptance and anthropomorphism. In: IEEE. 2012 7th ACM/IEEE International
Conference on Human-Robot Interaction (HRI). [S.l.], 2012. p. 125–126.
FALCONE, R.; SINGH, M.; TAN, Y.-H. Trust in cyber-societies: integrating the human and
artificial perspectives. [S.l.]: Springer Science & Business Media, 2001. v. 2246.
FAN, A.; WU, L.; MIAO, L.; MATTILA, A. S. When does technology anthropomorphism help
alleviate customer dissatisfaction after a service failure?–the moderating role of consumer
technology self-efficacy and interdependent self-construal. Journal of Hospitality Marketing
& Management, Taylor & Francis, v. 29, n. 3, p. 269–290, 2020.
194
FASOLA, J.; MATARIĆ, M. J. Using socially assistive human–robot interaction to motivate

physical exercise for older adults. Proceedings of the IEEE, IEEE, v. 100, n. 8, p. 2512–2526,
2012.
FASOLA, J.; MATARIĆ, M. J. A socially assistive robot exercise coach for the elderly. J.
Hum.-Robot Interact., Journal of Human-Robot Interaction Steering Committee, v. 2, n. 2,
p. 3–32, jun 2013. Disponível em: <https://doi.org/10.5898/JHRI.2.2.Fasola>.
FEIL-SEIFER, D.; MATARIĆ, M. J. Defining socially assistive robotics. Proceedings of

the 2005 IEEE 9th International Conference on Rehabilitation Robotics, v. 2005, n. Ci, p.
465–468, 2005.
FEIL-SEIFER, D.; MATARIĆ, M. J. Socially Assistive Human-Robot Intervention for Children

with Autism Spectrum Disorders. 11th Int. Symp. on Experimental Robotics (ISER), v. 54,
p. 201–210, 2008.
FEIL-SEIFER, D.; MATARIC, M. J. Human robotinteraction. Encyclopedia of complexity and

systems science, v. 80, 2009.
FEIL-SEIFER, D.; MATARIC, M. J. Socially assistive robotics-ethical issues related to

technology. IEEE Robotics and Automation Magazine, v. 18, n. 1, p. 24, 2011.
FEIL-SEIFER, D.; SKINNER, K.; MATARIĆ, M. J. Benchmarks for evaluating socially

assistive robotics. Interaction Studies, John Benjamins, v. 8, n. 3, p. 423–439, 2007.
FERRATÉ, G.; BASAÑEZ, L. Attributes, morphology and applications: A taxonomic approach

to interrelated factors in robotics. IFAC Proceedings Volumes, Elsevier, v. 18, n. 16, p.
411–418, 1985.
FINK, J. Anthropomorphism and human likeness in the design of robots and human-robot
interaction. In: SPRINGER. International Conference on Social Robotics. [S.l.], 2012. p.
199–208.
FINOMORE, V.; MATTHEWS, G.; SHAW, T.; WARM, J. Predicting vigilance: A fresh look
at an old problem. Ergonomics, Taylor & Francis, v. 52, n. 7, p. 791–808, 2009.
FISHBEIN, M.; AJZEN, I. Belief, attitude, intention, and behavior: An introduction to theory
and research. Philosophy and Rhetoric, v. 10, n. 2, 1977.
FLANDORFER, P. Population ageing and socially assistive robots for elderly persons:
the importance of sociodemographic factors for user acceptance. International Journal of
Population Research, Hindawi, v. 2012, 2012.
FONG, T.; NOURBAKHSH, I.; DAUTENHAHN, K. A survey of socially interactive robots.

Robotics and autonomous systems, Elsevier, v. 42, n. 3-4, p. 143–166, 2003.
FREEDY, A.; DEVISSER, E.; WELTMAN, G.; COEYMAN, N. Measurement of trust

in human-robot collaboration. In: IEEE. 2007 international symposium on collaborative
technologies and systems. [S.l.], 2007. p. 106–114.
FREEL, M. S. Sectoral patterns of small firm innovation, networking and proximity. Research
policy, Elsevier, v. 32, n. 5, p. 751–770, 2003.
195
GALSTER, M.; BUCHERER, E. A taxonomy for identifying and specifying non-functional

requirements in service-oriented development. In: IEEE. 2008 IEEE Congress on Services-Part
I. [S.l.], 2008. p. 345–352.
GAMBETTA, D. et al. Can we trust trust. Trust: Making and breaking cooperative relations,
Citeseer, v. 13, p. 213–237, 1990.
GARZA, C. G. M. Failure Is an Option: How the Severity of Robot Errors Affects
Human-Robot Interaction. Tese (Doutorado) — Carnegie Mellon University Pittsburgh, PA,
2018.
GAUDIELLO, I.; ZIBETTI, E.; LEFORT, S.; CHETOUANI, M.; IVALDI, S. Trust as indicator
of robot functional and social acceptance. an experimental study on user conformation to
icub answers. Computers in Human Behavior, Elsevier, v. 61, p. 633–655, 2016.
GIL, A. Métodos e técnicas de pesquisa social 5. ed., editora atlas: São paulo. 1999.
GIL, A. C. Métodos e técnicas de pesquisa social. São Paulo: Atlas, 1991.
GIL, A. C. Métodos e técnicas de pesquisa social. [S.l.]: 6. ed. Ediitora Atlas SA, 2008.
GIL, A. C. et al. Como elaborar projetos de pesquisa. [S.l.]: Atlas São Paulo, 2002. v. 4.
GLINZ, M. On non-functional requirements. In: IEEE. 15th IEEE international requirements
engineering conference (RE 2007). [S.l.], 2007. p. 21–26.
GOETZ, J.; KIESLER, S.; POWERS, A. Matching robot appearance and behavior to tasks
to improve human-robot cooperation. In: IEEE. The 12th IEEE International Workshop on
Robot and Human Interactive Communication, 2003. Proceedings. ROMAN 2003. [S.l.],
2003. p. 55–60.
GONZÁLEZ, J. C.; PULIDO, J. C.; FERNÁNDEZ, F. A three-layer planning architecture for
the autonomous control of rehabilitation therapies based on social robots. Cognitive Systems
Research, Elsevier, v. 43, p. 232–249, 2017.
GOODRICH, M. A.; SCHULTZ, A. C. Human-robot interaction: A survey. Foundations and
Trends in Human-Computer Interaction, v. 1, n. 3, p. 203–275, 2007. ISSN 15513955.
GORIS, K.; SALDIEN, J.; VANDERBORGHT, B.; LEFEBER, D. How to achieve the
huggable behavior of the social robot probo? a reflection on the actuators. Mechatronics,
Elsevier, v. 21, n. 3, p. 490–500, 2011.
GOSLING, S. D.; RENTFROW, P. J.; JR, W. B. S. A very brief measure of the big-five
personality domains. Journal of Research in personality, Elsevier, v. 37, n. 6, p. 504–528,
2003.
GOYAL, A.; SINGH, S.; VIR, D.; PERSHAD, D. Automation of stress recognition using
subjective or objective measures. Psychological Studies, Springer, v. 61, n. 4, p. 348–364,
2016.
GROOM, V. What’s the best role for a robot. In: Proceedings of the International Conference
on Informatics in Control, Automation and Robotics (ICINCO). [S.l.: s.n.], 2008. p. 323–328.
GROOM, V.; NASS, C. Can robots be teammates?: Benchmarks in human–robot teams.
Interaction studies, John Benjamins, v. 8, n. 3, p. 483–500, 2007.
196
GUPTA, N.; BISANTZ, A. M.; SINGH, T. The effects of adverse condition warning system
characteristics on driver performance: an investigation of alarm signal type and threshold
level. Behaviour & Information Technology, Taylor & Francis, v. 21, n. 4, p. 235–248, 2002.
HALL, E. Handbook for proxemic research, washington, dc, society for the anthropology of
visual communication. Search in, 1974.
HAM, J.; ESCH, M. v.; LIMPENS, Y.; PEE, J. d.; CABIBIHAN, J.-J.; GE, S. S. The
automaticity of social behavior towards robots: the influence of cognitive load on interpersonal
distance to approachable versus less approachable robots. In: SPRINGER. International
conference on social robotics. [S.l.], 2012. p. 15–25.
HANCOCK, P.; DESMOND, P. A.; MATTHEWS, G. Conceptualizing and defining fatigue.

In: The handbook of operator fatigue. [S.l.]: CRC Press, 2012. p. 63–73.
HANCOCK, P. A. A dynamic model of stress and sustained attention. Human factors, SAGE
Publications Sage CA: Los Angeles, CA, v. 31, n. 5, p. 519–537, 1989.
HANCOCK, P. A. Effects of control order, augmented feedback, input device and practice on
tracking performance and perceived workload. Ergonomics, Taylor & Francis, v. 39, n. 9, p.
1146–1162, 1996.
HANCOCK, P. A.; BILLINGS, D. R.; SCHAEFER, K. E. Can you trust your robot?
Ergonomics in Design, SAGE Publications Sage CA: Los Angeles, CA, v. 19, n. 3, p. 24–29,
2011.
HANCOCK, P. A.; BILLINGS, D. R.; SCHAEFER, K. E.; CHEN, J. Y.; VISSER, E. J. D.;
PARASURAMAN, R. A meta-analysis of factors affecting trust in human-robot interaction.
Human factors, Sage Publications Sage CA: Los Angeles, CA, v. 53, n. 5, p. 517–527, 2011.
HANCOCK, P. A.; HANCOCK, G. M.; WARM, J. Individuation: the n= 1 revolution.

Theoretical Issues in Ergonomics Science, Taylor & Francis, v. 10, n. 5, p. 481–488, 2009.
HANCOCK, P. A.; MERCADO, J. E.; MERLO, J.; ERP, J. B. V. Improving target detection
in visual search through the augmenting multi-sensory cues. Ergonomics, Taylor & Francis,
v. 56, n. 5, p. 729–738, 2013.
HANCOCK, P. A.; WARM, J. S. A dynamic model of stress and sustained attention. Journal
of Human Performance in Extreme Environments, v. 7, n. 1, p. 4, 2003.
HARING, K. S.; MATSUMOTO, Y.; WATANABE, K. How do people perceive and trust a
lifelike robot. In: CITESEER. Proceedings of the world congress on engineering and computer
science. [S.l.], 2013. v. 1.
HARING, K. S.; SILVERA-TAWIL, D.; TAKAHASHI, T.; WATANABE, K.; VELONAKI, M.

How people perceive different robot types: A direct comparison of an android, humanoid,
and non-biomimetic robot. In: 2016 8th International Conference on Knowledge and Smart
Technology (KST). [S.l.: s.n.], 2016. p. 265–270.
HARTNETT, J. J.; BAILEY, K. G.; HARTLEY, C. S. Body height, position, and sex as
determinants of personal space. The Journal of Psychology, Taylor & Francis, v. 87, n. 1, p.
129–136, 1974.
197
HARVEY, C.; STANTON, N. A.; PICKERING, C. A.; MCDONALD, M.; ZHENG, P. Context
of use as a factor in determining the usability of in-vehicle devices. Theoretical issues in
ergonomics science, Taylor & Francis, v. 12, n. 4, p. 318–338, 2011.
HATTINGH, M. An analysis of the current nature, status and relevance of data mining tools
to enable organizational learning. Tese (Doutorado) — Stellenbosch: Stellenbosch University,
2002.
HEAD, J.; TENAN, M. S.; TWEEDELL, A. J.; LAFIANDRA, M. E.; MORELLI, F.; WILSON,
K. M.; ORTEGA, S. V.; HELTON, W. S. Prior mental fatigue impairs marksmanship decision
performance. Frontiers in physiology, Frontiers, v. 8, p. 680, 2017.
HEAD, J. R.; TENAN, M. S.; TWEEDELL, A. J.; PRICE, T. F.; LAFIANDRA, M. E.;
HELTON, W. S. Cognitive fatigue influences time-on-task during bodyweight resistance
training exercise. Frontiers in Physiology, Frontiers, p. 373, 2016.
HEERINK, M.; KRÖSE, B.; EVERS, V.; WIELINGA, B. Assessing acceptance of assistive
social agent technology by older adults: the almere model. International journal of social
robotics, Springer, v. 2, n. 4, p. 361–375, 2010.
HEINECK, T. Desenvolvimento orientado a modelos no domínio de robótica: uma revisão

sistemática da literatura. Dissertação (Mestrado) — Universidade Federal de Pernambuco,
2016.
HENKEL, Z.; BETHEL, C. L.; MURPHY, R. R.; SRINIVASAN, V. Evaluation of proxemic

scaling functions for social robotics. IEEE Transactions on Human-Machine Systems, IEEE,
v. 44, n. 3, p. 374–385, 2014.
HO, G.; WHEATLEY, D.; SCIALFA, C. T. Age differences in trust and reliance of a
medication management system. Interacting with Computers, Oxford University Press Oxford,
UK, v. 17, n. 6, p. 690–710, 2005.
HOFF, K. A.; BASHIR, M. Trust in automation: Integrating empirical evidence on factors

that influence trust. Human factors, Sage Publications Sage CA: Los Angeles, CA, v. 57,
n. 3, p. 407–434, 2015.
HORSTMANN, A. C.; KRäMER, N. C. When a robot violates expectations: The influence

of reward valence and expectancy violation on people’s evaluation of a social robot. In:
Companion of the 2020 ACM/IEEE International Conference on Human-Robot Interaction.
New York, NY, USA: Association for Computing Machinery, 2020. (HRI ’20), p. 254–256.
ISBN 9781450370578. Disponível em: <https://doi.org/10.1145/3371382.3378292>.
HUANG, H.; RAU, P.-L. P.; MA, L. Will you listen to a robot? effects of robot ability, task
complexity, and risk on human decision-making. Advanced Robotics, Taylor & Francis, v. 35,
n. 19, p. 1156–1166, 2021.
IEEE. IEEE recommended practice for software requirements specifications. Std 830-1998,
Institute of Electrical and Electronics Engineers, 1998.
IGBARIA, M.; IIVARI, J. The effects of self-efficacy on computer usage. Omega, Elsevier,
v. 23, n. 6, p. 587–605, 1995.
198
IROJU, O.; OJERINDE, O. A.; IKONO, R. State of the art: a study of human-robot
interaction in healthcare. International Journal of Information Engineering and Electronic
Business, 2017.
ISO 13482:2014. Robots and robotic devices- Safety requiriments for personal care robots.
2014.
ISO/IEC 25010. Systems and software engineering — Systems and software Quality
Requirements and Evaluation (SQuaRE) — System and software quality models. 2010.
ISO/TR 23482-1:2020. Robotics—Application of ISO 13482—Part 1: Safety-related test

methods. 2020.
JOHN, O. P. The"big five"factor taxonomy: Dimensions of personality in the natural language

and in questionnaires. Handbook of personality: Theory and research, 1990.
JOHNSON, D. O.; CUIJPERS, R. H.; JUOLA, J. F.; TORTA, E.; SIMONOV, M.; FRISIELLO,
A.; BAZZANI, M.; YAN, W.; WEBER, C.; WERMTER, S. et al. Socially assistive robots:
a comprehensive approach to extending independent living. International journal of social
robotics, Springer, v. 6, n. 2, p. 195–211, 2014.
JOHNSON, M.; BRADSHAW, J. M.; FELTOVICH, P. J.; JONKER, C. M.; RIEMSDIJK,

M. B. V.; SIERHUIS, M. Coactive design: Designing support for interdependence in joint
activity. Journal of Human-Robot Interaction, Journal of Human-Robot Interaction Steering
Committee, v. 3, n. 1, p. 43–69, 2014.
JOHNSON, R. B.; ONWUEGBUZIE, A. J.; TURNER, L. A. Toward a definition of mixed

methods research. Journal of mixed methods research, Sage Publications Sage CA: Los
Angeles, CA, v. 1, n. 2, p. 112–133, 2007.
JR, A. G. R.; JR, N. B. Uma proposta para elicitação de requisitos não-funcionais. Anais
SULCOMP, v. 4, 2008.
JR, J. M.; HANSEN, M. H.; PEARSON, A. W. The cognitive and affective antecedents
of general trust within cooperative organizations. Journal of managerial issues, JSTOR, p.
48–64, 2004.
JR, P. H. K.; ISHIGURO, H.; FRIEDMAN, B.; KANDA, T.; FREIER, N. G.; SEVERSON,
R. L.; MILLER, J. What is a human?: Toward psychological benchmarks in the field of
human–robot interaction. Interaction Studies, John Benjamins, v. 8, n. 3, p. 363–390, 2007.
KANDA, T.; SATO, R.; SAIWAKI, N.; ISHIGURO, H. A two-month field trial in an
elementary school for long-term human–robot interaction. IEEE Transactions on robotics,
IEEE, v. 23, n. 5, p. 962–971, 2007.
KANIARASU, P.; STEINFELD, A.; DESAI, M.; YANCO, H. Robot confidence and trust
alignment. In: IEEE. 2013 8th ACM/IEEE International Conference on Human-Robot
Interaction (HRI). [S.l.], 2013. p. 155–156.
KAPLAN, F. Who is afraid of the humanoid? investigating cultural differences in the

acceptance of robots. International journal of humanoid robotics, World Scientific, v. 1,
n. 03, p. 465–480, 2004.
199
KEIL, M.; BERANEK, P. M.; KONSYNSKI, B. R. Usefulness and ease of use: field study
evidence regarding task considerations. Decision support systems, Elsevier, v. 13, n. 1, p.
75–91, 1995.
KELLMEYER, P.; MUELLER, O.; FEINGOLD-POLAK, R.; LEVY-TZEDEK, S. Social

robots in rehabilitation: A question of trust. Science Robotics, American Association for the
Advancement of Science, v. 3, n. 21, p. eaat1587, 2018.
KHALIFA, D.; MADJID, N. A.; SVETINOVIC, D. Trust requirements in blockchain systems:

a preliminary study. In: IEEE. 2019 Sixth International Conference on Software Defined
Systems (SDS). [S.l.], 2019. p. 310–313.
KHATTER, K.; KALIA, A. Impact of non-functional requirements on requirements evolution.

In: IEEE. 2013 6th International Conference on Emerging Trends in Engineering and
Technology. [S.l.], 2013. p. 61–68.
KIDD, C. D. Sociable robots: The role of presence and task in human-robot interaction. Tese
(Doutorado) — Massachusetts Institute of Technology, 2003.
KIDD, C. D.; BREAZEAL, C. Effect of a robot on user perceptions. In: IEEE. 2004
IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS)(IEEE Cat.
No. 04CH37566). [S.l.], 2004. v. 4, p. 3559–3564.
KIESLER, S.; GOETZ, J. Mental models of robotic assistants. In: CHI’02 extended abstracts
on Human Factors in Computing Systems. [S.l.: s.n.], 2002. p. 576–577.
KIESLER, S.; POWERS, A.; FUSSELL, S. R.; TORREY, C. Anthropomorphic interactions

with a robot and robot–like agent. Social Cognition, Guilford Press, v. 26, n. 2, p. 169–181,
2008.
KIM, K. J.; PARK, E.; SUNDAR, S. S. Caregiving role in human–robot interaction: A study
of the mediating effects of perceived benefit and social presence. Computers in Human
Behavior, Elsevier, v. 29, n. 4, p. 1799–1806, 2013.
KIRCHER, K.; THORSLUND, B. Effects of road surface appearance and low friction warning
systems on driver behaviour and confidence in the warning system. Ergonomics, Taylor &
Francis, v. 52, n. 2, p. 165–176, 2009.
KIRNER, T. G.; DAVIS, A. M. Nonfunctional requirements of real-time systems. In: Advances

in Computers. [S.l.]: Elsevier, 1996. v. 42, p. 1–37.
KOAY, K. L.; DAUTENHAHN, K.; WOODS, S.; WALTERS, M. L. Empirical results from
using a comfort level device in human-robot interaction studies. In: Proceedings of the 1st
ACM SIGCHI/SIGART conference on Human-robot interaction. [S.l.: s.n.], 2006. p. 194–201.
KOAY, K. L.; SYRDAL, D. S.; WALTERS, M. L.; DAUTENHAHN, K. Living with robots:
Investigating the habituation effect in participants’ preferences during a longitudinal
human-robot interaction study. In: IEEE. RO-MAN 2007-The 16th IEEE International
Symposium on Robot and Human Interactive Communication. [S.l.], 2007. p. 564–569.
KOH, K. B.; PARK, J. K.; KIM, C. H.; CHO, S. Development of the stress response
inventory and its application in clinical practice. Psychosomatic medicine, LWW, v. 63, n. 4,
p. 668–678, 2001.
200
KOLLOCK, P. The emergence of exchange structures: An experimental study of uncertainty,

commitment, and trust. American Journal of sociology, University of Chicago Press, v. 100,
n. 2, p. 313–345, 1994.
KOMATSU, T.; YAMADA, S. Adaptation gap hypothesis: How differences between users’
expected and perceived agent functions affect their subjective impression. Journal of
Systemics, Cybernetics and Informatics, v. 9, n. 1, p. 67–74, 2011.
KORN, O.; AKALIN, N.; GOUVEIA, R. Understanding cultural preferences for social robots:
a study in german and arab communities. ACM Transactions on Human-Robot Interaction
(THRI), ACM New York, NY, USA, v. 10, n. 2, p. 1–19, 2021.
KOTONYA, G.; SOMMERVILLE, I. Requirements engineering: processes and techniques.

Wiley Publishing, 1998.
KOUTENTAKIS, D.; PILOZZI, A.; HUANG, X. Designing socially assistive robots for
alzheimer’s disease and related dementia patients and their caregivers: where we are and
where we are headed. In: MULTIDISCIPLINARY DIGITAL PUBLISHING INSTITUTE.
Healthcare. [S.l.], 2020. v. 8, n. 2, p. 73.
KWAN, D.; CYSNEIROS, L. M.; LEITE, J. C. S. do P. Towards achieving trust through

transparency and ethics. In: IEEE. 2021 IEEE 29th International Requirements Engineering
Conference (RE). [S.l.], 2021. p. 82–93.
KWON, M.; JUNG, M. F.; KNEPPER, R. A. Human expectations of social robots. In: IEEE.
2016 11th ACM/IEEE International Conference on Human-Robot Interaction (HRI). [S.l.],
2016. p. 463–464.
LAMSWEERDE, A. V. Goal-oriented requirements engineering: A guided tour. In: IEEE.

Proceedings fifth ieee international symposium on requirements engineering. [S.l.], 2001. p.
249–262.
LANGER, A.; FEINGOLD-POLAK, R.; MUELLER, O.; KELLMEYER, P.; LEVY-TZEDEK,

S. Trust in socially assistive robots: Considerations for use in rehabilitation. Neuroscience
and Biobehavioral Reviews, Elsevier, v. 104, n. July, p. 231–239, 2019. ISSN 18737528.
Disponível em: <https://doi.org/10.1016/j.neubiorev.2019.07.014>.
LARZELERE, R. E.; HUSTON, T. L. The dyadic trust scale: Toward understanding

interpersonal trust in close relationships. Journal of Marriage and the Family, JSTOR, p.
595–604, 1980.
LASOTA, P.; FONG, T.; SHAH, J. A survey of methods for safe human-robot interaction.
Found Trends Robot 5 (3): 261–349. 2017.
LASOTA, P. A.; FONG, T.; SHAH, J. A. A Survey of Methods for Safe Human-Robot
Interaction. Foundations and Trends in Robotics, v. 5, n. 3, p. 261–349, 2017. ISSN
1935-8253.
LATIKKA, R.; TURJA, T.; OKSANEN, A. Self-efficacy and acceptance of robots.

Computers in Human Behavior, v. 93, p. 157–163, 2019. ISSN 0747-5632. Disponível em:
LAUGIER, C. J. rios-martinez, a. spalanzani &. Int J of Soc Robotics, v. 7, p. 137–153, 2015.

201
LAW, T.; CHITA-TEGMARK, M.; SCHEUTZ, M. The interplay between emotional

intelligence, trust, and gender in human–robot interaction. International Journal of Social
Robotics, Springer, v. 13, n. 2, p. 297–309, 2021.
LAZÁNYI, K.; HAJDU, B. Trust in human-robot interactions. In: IEEE. 2017 IEEE 14th
International Scientific Conference on Informatics. [S.l.], 2017. p. 216–220.
LAZARUS, R. S. Theory-based stress measurement. Psychological inquiry, Taylor & Francis,

v. 1, n. 1, p. 3–13, 1990.
LAZARUS, R. S. From psychological stress to the emotions: A history of changing outlooks.

Annual Review of Psychology, v. 44, n. 1, p. 1–22, 1993. PMID: 8434890. Disponível em:
<https://doi.org/10.1146/annurev.ps.44.020193.000245>.
LEE, H.; KIM, J.; KIM, J. Determinants of success for application service provider: An
empirical test in small businesses. International journal of human-computer studies, Elsevier,
v. 65, n. 9, p. 796–815, 2007.
LEE, J. D.; SEE, K. A. Trust in automation: Designing for appropriate reliance. Human
factors, SAGE Publications Sage UK: London, England, v. 46, n. 1, p. 50–80, 2004.
LEE, S.; NAGUIB, A. M. Toward a sociable and dependable elderly care robot: design,
implementation and user study. Journal of Intelligent & Robotic Systems, Springer, v. 98,
n. 1, p. 5–17, 2020.
LEE, S.-l.; LAU, I. Y.-m.; KIESLER, S.; CHIU, C.-Y. Human mental models of humanoid
robots. In: IEEE. Proceedings of the 2005 IEEE international conference on robotics and
automation. [S.l.], 2005. p. 2767–2772.
LEES, M. N.; LEE, J. D. The influence of distraction and driving context on driver response to
imperfect collision warning systems. Ergonomics, Taylor & Francis, v. 50, n. 8, p. 1264–1286,
2007.
LEFFINGWELL, D. Agile software requirements: lean requirements practices for teams,

programs, and the enterprise. [S.l.]: Addison-Wesley Professional, 2010.
LEICHTMANN, B.; NITSCH, V. How much distance do humans keep toward robots?
literature review, meta-analysis, and theoretical considerations on personal space in
human-robot interaction. Journal of environmental Psychology, Elsevier, v. 68, p. 101386,
2020.
LEMAIGNAN, S.; WARNIER, M.; SISBOT, E. A.; CLODIC, A.; ALAMI, R. Artificial
cognition for social human–robot interaction: An implementation. Artificial Intelligence,
Elsevier, v. 247, p. 45–69, 2017.
LEVESON, N. G. Engineering a safer world: Systems thinking applied to safety. [S.l.]: The
MIT Press, 2011.
LEWIS, J. D.; WEIGERT, A. Trust as a social reality. Social forces, Oxford University Press,
v. 63, n. 4, p. 967–985, 1985.
LEWIS, M.; SYCARA, K.; WALKER, P. The role of trust in human-robot interaction. In:
Foundations of trusted autonomy. [S.l.]: Springer, Cham, 2018. p. 135–159.
202
LI, C.; JIA, Q.; FENG, Y. Human-robot interactoin design for robot-assisted intervention for
children with autism based on es theory. In: IEEE. 2016 8th International Conference on
Intelligent Human-Machine Systems and Cybernetics (IHMSC). [S.l.], 2016. v. 2, p. 320–324.
LI, D.; RAU, P.-L.; LI, Y. A cross-cultural study: Effect of robot appearance and task.
LI, J. The benefit of being physically present: A survey of experimental works comparing
copresent robots, telepresent robots and virtual agents. International Journal of
Human-Computer Studies, Elsevier, v. 77, p. 23–37, 2015.
LI, Y.-M.; YEH, Y.-S. Increasing trust in mobile commerce through design aesthetics.
Computers in Human Behavior, Elsevier, v. 26, n. 4, p. 673–684, 2010.
LIKERT, R. A technique for the measurement of attitudes. Archives of psychology, 1932.
LIN, P.; BEKEY, G.; ABNEY, K. Autonomous military robotics: Risk, ethics, and design.
[S.l.], 2008.
LINS, C. M.
Reabilitação Motora de membros superiores com o uso do Robô NAO — Universidade
Federal de Pernambuco, 2021.
LIU, C.; TANG, T.; LIN, H.-C.; TOMIZUKA, M. Designing Robot Behavior in Human-Robot
Interactions. [S.l.]: CRC Press, 2019.
LIU, P.; LI, Z. Task complexity: A review and conceptualization framework. International
Journal of Industrial Ergonomics, Elsevier, v. 42, n. 6, p. 553–568, 2012.
LIU, X. S.; YI, X. S.; WAN, L. C. Friendly or competent? the effects of perception of robot
appearance and service context on usage intention. Annals of Tourism Research, Elsevier,
v. 92, p. 103324, 2022.
LOHSE, M. Bridging the gap between users’ expectations and system evaluations. In: IEEE.
2011 RO-MAN. [S.l.], 2011. p. 485–490.
LOHSE, M.; HEGEL, F.; WREDE, B. Domestic applications for social robots: an online
survey on the influence of appearance and capabilities. Red de Agentes Físicos, 2008.
LOOIJE, R.; NEERINCX, M. A.; CNOSSEN, F. Persuasive robotic assistant for health
self-management of older adults: Design and evaluation of social behaviors. International
Journal of Human-Computer Studies, Elsevier, v. 68, n. 6, p. 386–397, 2010.
LOUIE, W.-Y. G.; MCCOLL, D.; NEJAT, G. Acceptance and attitudes toward a human-like
socially assistive robot by older adults. Assistive Technology, Taylor & Francis, v. 26, n. 3, p.
140–150, 2014.
LUHMANN, N. Trust and power chichester. UK: Wiley, 1979.
LUHMANN, N. Familiarity, confidence, trust: Problems and alternatives. Trust: Making and
breaking cooperative relations, Oxford, v. 6, n. 1, p. 94–107, 2000.
203
LUM, H.; SINATRA, A.; SIMS, V. K.; CHIN, M. G.; SMITH, H. S.; SHUMAKER, R.;
FINKELSTEIN, N. Size does matter: Automobile “facial” features predict consumer attitudes.
In: SAGE PUBLICATIONS SAGE CA: LOS ANGELES, CA. Proceedings of the Human
Factors and Ergonomics Society Annual Meeting. [S.l.], 2007. v. 51, n. 18, p. 1105–1108.
LUSSIER, B.; GALLIEN, M.; GUIOCHET, J.; INGRAND, F.; KILLIJIAN, M.-O.; POWELL,
D. Fault tolerant planning for critical robots. In: IEEE. 37th Annual IEEE/IFIP International
Conference on Dependable Systems and Networks (DSN’07). [S.l.], 2007. p. 144–153.
LÜTKEBOHLE, I.; HEGEL, F.; SCHULZ, S.; HACKEL, M.; WREDE, B.; WACHSMUTH,
S.; SAGERER, G. The bielefeld anthropomorphic robot head “flobi”. In: IEEE. 2010 IEEE
International Conference on Robotics and Automation. [S.l.], 2010. p. 3384–3391.
LYONS, J.; STOKES, C.; GARCIA, D.; ADAMS, J.; AMES, D. Trust and decision-making:
An empirical platform (ccp 204). IEEE Aerospace and Electronic Systems Magazine, IEEE,
v. 24, n. 10, p. 36–41, 2009.
MADHAVAN, P.; WIEGMANN, D. A. A new look at the dynamics of human-automation
trust: Is trust in humans comparable to trust in machines? In: SAGE PUBLICATIONS SAGE
CA: LOS ANGELES, CA. Proceedings of the Human Factors and Ergonomics Society Annual
Meeting. [S.l.], 2004. v. 48, n. 3, p. 581–585.
MADSEN, M.; GREGOR, S. Measuring human-computer trust. In: CITESEER. 11th
australasian conference on information systems. [S.l.], 2000. v. 53, p. 6–8.
MAIRIZA, D.; ZOWGHI, D.; NURMULIANI, N. An investigation into the notion of
non-functional requirements. In: Proceedings of the 2010 ACM Symposium on Applied
Computing. [S.l.: s.n.], 2010. p. 311–317.
MALHOTRA, N. K. Pesquisa de Marketing: uma orientação aplicada. 3. ed. Porto Alegre:
Bookman, 2001. 719 p.
MAMANI, N. A. Integrando requisitos não funcionais aos requisitos baseados em ações
concertas. Tese (Doutorado) — Dissertação (Dissertação de mestrado)—Departamento de
informática, PUC-RIO, 1999.
MARCHETTI, A.; DIO, C. D.; MANZI, F.; MASSARO, D. Robotics in clinical and
developmental psychology. Reference module in neuroscience and biobehavioral psychology,
Elsevier, 2022.
MARCORA, S. M.; STAIANO, W.; MANNING, V. Mental fatigue impairs physical
performance in humans. Journal of applied physiology, American Physiological Society, 2009.
MARSH, S. P. Formalising trust as a computational concept. University of Stirling, 1994.
MATARIĆ, M.; TAPUS, A.; WINSTEIN, C.; ERIKSSON, J. Socially assistive robotics for
stroke and mild tbi rehabilitation. In: Advanced technologies in rehabilitation. [S.l.]: IOS
Press, 2009. p. 249–262.
MATHUR, M. B.; REICHLING, D. B. An uncanny game of trust: social trustworthiness of
robots inferred from subtle anthropomorphic facial cues. In: IEEE. 2009 4th ACM/IEEE
International Conference on Human-Robot Interaction (HRI). [S.l.], 2009. p. 313–314.
MATTAR, F. N. Pesquisa de marketing. São Paulo:Atlas, v. 3.ed., 2001.
204
MATTHEWS, G.; EMO, A. K.; FUNKE, G.; ZEIDNER, M.; ROBERTS, R. D.; JR, P. T.
C.; SCHULZE, R. Emotional intelligence, personality, and task-induced stress. Journal of
Experimental Psychology: Applied, American Psychological Association, v. 12, n. 2, p. 96,
2006.
MATTHEWS, G.; REINERMAN-JONES, L.; BARBER, D.; TEO, G.; WOHLEBER, R.; LIN,
J.; PANGANIBAN, A. Resilient autonomous systems: Challenges and solutions. In: 2016
Resilience Week (RWS). [S.l.: s.n.], 2016. p. 208–213.
MAYER, A. K.; SANCHEZ, J.; FISK, A. D.; ROGERS, W. A. Don’t let me down: The role
of operator expectations in human-automation interaction. In: SAGE PUBLICATIONS SAGE
Meeting. [S.l.], 2006. v. 50, n. 21, p. 2345–2349.
MAYER, R. C.; DAVIS, J. H.; SCHOORMAN, F. D. An integrative model of organizational
trust. Academy of management review, Academy of Management Briarcliff Manor, NY
10510, v. 20, n. 3, p. 709–734, 1995.
MCALLISTER, D. J. Affect-and cognition-based trust as foundations for interpersonal
cooperation in organizations. Academy of management journal, Academy of Management
Briarcliff Manor, NY 10510, v. 38, n. 1, p. 24–59, 1995.
MCBRIDE, M.; MORGAN, S. Trust calibration for automated decision aids. Institute for
Homeland Security Solutions, p. 1–11, 2010.
MCCOLL, D.; NEJAT, G. Recognizing emotional body language displayed by a human-like
social robot. International Journal of Social Robotics, Springer, v. 6, n. 2, p. 261–280, 2014.
MCGINN, C. Why do robots need a head? the role of social interfaces on service robots.
MCGINN, C.; BOURKE, E.; MURTAGH, A.; DONOVAN, C.; LYNCH, P.; CULLINAN,
M. F.; KELLY, K. Meet stevie: a socially assistive robot developed through application of a
‘design-thinking’approach. Journal of Intelligent & Robotic Systems, Springer, v. 98, n. 1, p.
39–58, 2020.
MCKNIGHT, D. H.; LARRY, L. Initial trust formation in new organizational relationships.
The Academy of management review, v. 23, n. 3, p. 473–90, 1998.
MCNEILL, D. Hand and Mind: What Gestures Reveal about Thought. Chicago: The
University of Chicago Press, 1992.
MEGHDARI, A.; SHARIATI, A.; ALEMI, M.; NOBAVEH, A. A.; KHAMOOSHI, M.;
MOZAFFARI, B. Design performance characteristics of a social robot companion “arash”
for pediatric hospitals. International Journal of Humanoid Robotics, World Scientific, v. 15,
n. 05, p. 1850019, 2018.
MERRITT, S. M.; HEIMBAUGH, H.; LACHAPELL, J.; LEE, D. I trust it, but i don’t know
why: Effects of implicit attitudes toward automation on trust in an automated system.
MERRITT, S. M.; ILGEN, D. R. Not all trust is created equal: Dispositional and history-based
trust in human-automation interactions. Human factors, SAGE Publications Sage CA: Los
Angeles, CA, v. 50, n. 2, p. 194–210, 2008.
205
MILLER, L.; KRAUS, J.; BABEL, F.; MESSNER, M.; BAUMANN, M. Come closer:
Experimental investigation of robots’ appearance on proximity, affect and trust in a domestic
environment. In: SAGE PUBLICATIONS SAGE CA: LOS ANGELES, CA. Proceedings of the
Human Factors and Ergonomics Society Annual Meeting. [S.l.], 2020. v. 64, n. 1, p. 395–399.
MILLER, L.; KRAUS, J. M.; BABEL, F.; BAUMANN, M. More than a feeling-interrelation
of trust layers in human-robot interaction and the role of user dispositions and state anxiety.
Frontiers in Psychology, Frontiers, v. 12, p. 378, 2021.
MOHAN, R. E.; CALDERON, C. A. A.; ZHOU, C.; YUE, P. K. Evaluating virtual emotional
expression systems for human robot interaction in rehabilitation domain. In: IEEE. 2008
International Conference on Cyberworlds. [S.l.], 2008. p. 554–560.
MOKHTARI, M.; SHARIATI, A.; MEGHDARI, A. Taban”: A retro-projected social
robotic-head for human-robot interaction. In: IEEE. 2019 7th International Conference on
Robotics and Mechatronics (ICRoM). [S.l.], 2019. p. 46–51.
MORAY, N.; INAGAKI, T.; ITOH, M. Adaptive automation, trust, and self-confidence
in fault management of time-critical tasks. Journal of experimental psychology: Applied,
American Psychological Association, v. 6, n. 1, p. 44, 2000.
MORI, M.; MACDORMAN, K. F.; KAGEKI, N. The uncanny valley [from the field]. IEEE
Robotics & Automation Magazine, IEEE, v. 19, n. 2, p. 98–100, 2012.
MORO, C.; NEJAT, G.; MIHAILIDIS, A. Learning and personalizing socially assistive robot
behaviors to aid with activities of daily living. ACM Transactions on Human-Robot Interaction
(THRI), ACM New York, NY, USA, v. 7, n. 2, p. 1–25, 2018.
MOULOUA, M.; HANCOCK, P. A. Human Performance in Automated and Autonomous
Systems: Emerging Issues and Practical Perspectives. [S.l.]: CRC Press, 2019.
MUIR, B. M.; MORAY, N. Trust in automation. part ii. experimental studies of trust and
human intervention in a process control simulation. Ergonomics, v. 39, n. 3, p. 429–460,
1996.
MUMM, J.; MUTLU, B. Human-robot proxemics: Physical and psychological distancing
in human-robot interaction. In: Proceedings of the 6th International Conference
on Human-Robot Interaction. New York, NY, USA: Association for Computing
Machinery, 2011. (HRI 11), p. 331–338. ISBN 9781450305617. Disponível em:
<https://doi.org/10.1145/1957656.1957786>.
MURATA, A. Ergonomics and cognitive engineering for robot-human cooperation. In:
IEEE. Proceedings 9th IEEE International Workshop on Robot and Human Interactive
Communication. IEEE RO-MAN 2000 (Cat. No. 00TH8499). [S.l.], 2000. p. 206–211.
MURPHY, R. R.; NOMURA, T.; BILLARD, A.; BURKE, J. L. Human–robot interaction.
IEEE robotics & automation magazine, IEEE, v. 17, n. 2, p. 85–89, 2010.
MURPHY, R. R.; ROGERS, E. Cooperative assistance for remote robot supervision. Presence:
Teleoperators & Virtual Environments, v. 5, n. 2, p. 224–240, 1996.
MYLOPOULOS, J.; CHUNG, L.; NIXON, B. Representing and using nonfunctional
requirements: A process-oriented approach. IEEE Transactions on software engineering, v. 18,
n. 6, p. 483–497, 1992.
206
NAKADA, K. Kansei engineering research on the design of construction machinery.

International Journal of Industrial Ergonomics, v. 19, n. 2, p. 129–146, 1997. ISSN
0169-8141. Kansei Engineering and Comfort. Disponível em: <https://www.sciencedirect.
com/science/article/pii/S0169814196000091>.
NASCIMENTO, F. P. d. Classificação da pesquisa. natureza, método ou abordagem

metodológica, objetivos e procedimentos. Metodologia da Pesquisa Científica: teoria e
prática–como elaborar TCC. Brasília: Thesaurus, 2016.
NASCIMENTO, V. W. C. Introdução à metodologia científica. São Cristóvão, 2017.
NASS, C.; LEE, K. M. Does computer-synthesized speech manifest personality? experimental

tests of recognition, similarity-attraction, and consistency-attraction. Journal of experimental
psychology: applied, American Psychological Association, v. 7, n. 3, p. 171, 2001.
NATARAJAN, M.; GOMBOLAY, M. Effects of anthropomorphism and accountability

on trust in human robot interaction. In: . New York, NY, USA: Association
for Computing Machinery, 2020. p. 33–42. ISBN 9781450367462. Disponível em:
<https://doi.org/10.1145/3319502.3374839>.
NESTOROV, N.; STONE, E.; LEHANE, P.; EIBRAND, R. Aspects of socially assistive
robots design for dementia care. In: IEEE. 2014 IEEE 27th International Symposium on
Computer-Based Medical Systems. [S.l.], 2014. p. 396–400.
NEUBAUER, C.; MATTHEWS, G.; LANGHEIM, L.; SAXBY, D. Fatigue and voluntary
utilization of automation in simulated driving. Human factors, Sage Publications Sage CA:
Los Angeles, CA, v. 54, n. 5, p. 734–746, 2012.
NIKOLAIDIS, S.; KWON, M.; FORLIZZI, J.; SRINIVASA, S. Planning with verbal
communication for human-robot collaboration. J. Hum.-Robot Interact., Association
for Computing Machinery, New York, NY, USA, v. 7, n. 3, nov 2018. Disponível em:
<https://doi.org/10.1145/3203305>.
NOMURA, T.; KANDA, T.; SUZUKI, T. Experimental investigation into influence of negative
attitudes toward robots on human–robot interaction. Ai & Society, Springer, v. 20, n. 2, p.
138–150, 2006.
OBAID, M.; SANDOVAL, E. B.; ZŁOTOWSKI, J.; MOLTCHANOVA, E.; BASEDOW,

C. A.; BARTNECK, C. Stop! that is close enough. how body postures influence human-robot
proximity. In: IEEE. 2016 25th IEEE International Symposium on Robot and Human
OBAYASHI, K.; KODATE, N.; MASUYAMA, S. Socially assistive robots and their potential
in enhancing older people’s activity and social participation. Journal of the American Medical
Directors Association, v. 19, n. 5, p. 462–463, 2018.
OLESON, K. E.; BILLINGS, D. R.; KOCSIS, V.; CHEN, J. Y.; HANCOCK, P. A. Antecedents
of trust in human-robot collaborations. In: IEEE. 2011 IEEE International Multi-Disciplinary
Conference on Cognitive Methods in Situation Awareness and Decision Support (CogSIMA).
[S.l.], 2011. p. 175–178.
OLSON, K. E. Understanding the construct of human trust in domestic service robots. Tese
(Doutorado) — Georgia Institute of Technology, 2013.
207
ONNASCH, L.; HILDEBRANDT, C. L. Impact of anthropomorphic robot design on trust

and attention in industrial human-robot interaction. J. Hum.-Robot Interact., Association
for Computing Machinery, New York, NY, USA, v. 11, n. 1, oct 2021. Disponível em:
<https://doi.org/10.1145/3472224>.
OOSTERHOF, N. N.; TODOROV, A. The functional basis of face evaluation. Proceedings

of the National Academy of Sciences, National Acad Sciences, v. 105, n. 32, p. 11087–11092,
2008.
OOSTERHOUT, T. van; VISSER, A. A visual method for robot proxemics measurements. In:
Proceedings of Metrics for Human-Robot Interaction: A Workshop at the Third ACM/IEEE
International Conference on Human-Robot Interaction (HRI 2008). Citeseer. [S.l.: s.n.], 2008.
p. 61–68.
OSOSKY, S.; SCHUSTER, D.; PHILLIPS, E.; JENTSCH, F. G. Building appropriate trust in
human-robot teams. In: 2013 AAAI spring symposium series. [S.l.: s.n.], 2013.
PAK, R.; FINK, N.; PRICE, M.; BASS, B.; STURRE, L. Decision support aids with
anthropomorphic characteristics influence trust and performance in younger and older adults.
PAPADOPOULOS, I.; LAZZARINO, R.; MIAH, S.; WEAVER, T.; THOMAS, B.;
KOULOUGLIOTI, C. A systematic review of the literature regarding socially assistive robots
in pre-tertiary education. Computers & Education, Elsevier, v. 155, p. 103924, 2020.
PARASURAMAN, R.; COSENZO, K. A.; VISSER, E. D. Adaptive automation for human

supervision of multiple uninhabited vehicles: Effects on change detection, situation awareness,
and mental workload. Military Psychology, Taylor & Francis, v. 21, n. 2, p. 270–297, 2009.
PARASURAMAN, R.; MILLER, C. A. Trust and etiquette in high-criticality automated

systems. Communications of the ACM, ACM New York, NY, USA, v. 47, n. 4, p. 51–55,
2004.
PARASURAMAN, R.; RILEY, V. Humans and automation: Use, misuse, disuse, abuse.
Human factors, SAGE Publications Sage CA: Los Angeles, CA, v. 39, n. 2, p. 230–253, 1997.
PARASURAMAN, R.; SHERIDAN, T. B.; WICKENS, C. D. A model for types and levels of
human interaction with automation. IEEE Transactions on systems, man, and cybernetics-Part
A: Systems and Humans, IEEE, v. 30, n. 3, p. 286–297, 2000.
PERRE, G. Van de; BEIR, A. D.; CAO, H.-L.; ESTEBAN, P. G.; LEFEBER, D.;
VANDERBORGHT, B. Studying design aspects for social robots using a generic gesture
method. International Journal of Social Robotics, Springer, v. 11, n. 4, p. 651–663, 2019.
PERRY, A.; RUBINSTEN, O.; PELED, L.; SHAMAY-TSOORY, S. G. Don’t stand so close
to me: A behavioral and erp study of preferred interpersonal distance. Neuroimage, Elsevier,
v. 83, p. 761–769, 2013.
PETRAK, B.; WEITZ, K.; ASLAN, I.; ANDRÉ, E. Let me show you your new home: studying
the effect of proxemic-awareness of robots on users’ first impressions. In: IEEE. 2019 28th
IEEE international conference on robot and human interactive communication (RO-MAN).
[S.l.], 2019. p. 1–7.
208
PINO, M.; BOULAY, M.; JOUEN, F.; RIGAUD, A. S. “are we ready for robots that care for
us?” attitudes and opinions of older adults toward socially assistive robots. Frontiers in aging
neuroscience, Frontiers, v. 7, p. 141, 2015.
PORTUGAL, R. L. Q. Speeding-up non-functional requirements elicitation. Pontifícia
Universidade Católica do Rio de Janeiro, 2020.
POSTAL, L. C. Robô no atendimento ao cliente: quanto mais"humano"melhor? 2019.
PRAKASH, A.; ROGERS, W. A. Why some humanoid faces are perceived more positively
than others: effects of human-likeness and task. International journal of social robotics,
Springer, v. 7, n. 2, p. 309–331, 2015.
PRESSMAN, R.; MAXIM, B. Engenharia de Software-8ª Edição. [S.l.]: McGraw Hill Brasil,
2016.
PULIDO, J. C.; SUáREZ, C.; DORADO, J. C. G.; DUEñAS-RUIZ, A.; FERRI, P.;
ENCARNACIóN, M.; SAHUQUILLO, M.; ECHEVARRíA, C.; VARGAS, R.; INFANTE-
COSSIO, P.; LUIS, C.; CALDERóN, P.; FERNáNDEZ, F. A socially assistive robotic platform
for upper-limb rehabilitation: A longitudinal study with pediatric patients. IEEE Robotics
Automation Magazine, v. 26, p. 24–39, 06 2019.
PUNYATOYA, P. Effects of cognitive and affective trust on online customer behavior.
Marketing Intelligence & Planning, Emerald Publishing Limited, 2018.
PYTLIKZILLIG, L. M.; KIMBROUGH, C. D. Consensus on conceptualizations and definitions
of trust: Are we there yet? Interdisciplinary perspectives on trust, Springer, p. 17–47, 2016.
RABBITT, S. M.; KAZDIN, A. E.; SCASSELLATI, B. Integrating socially assistive robotics
into mental healthcare interventions: Applications and recommendations for expanded use.
Clinical psychology review, Elsevier, v. 35, p. 35–46, 2015.
RAJAONAH, B.; ANCEAUX, F.; VIENNE, F. Study of driver trust during cooperation with
adaptive cruise control. Le travail humain, Presses Universitaires de France, v. 69, n. 2, p.
99–127, 2006.
RAJAVENKATANARAYANAN, A.; KANAL, V.; TSIAKAS, K.; BRADY, J.; CALDERON,
D.; WYLIE, G.; MAKEDON, F. Towards a robot-based multimodal framework to assess the
impact of fatigue on user behavior and performance: A pilot study. In: Proceedings of the 12th
ACM International Conference on PErvasive Technologies Related to Assistive Environments.
New York, NY, USA: Association for Computing Machinery, 2019. (PETRA ’19), p. 493–498.
ISBN 9781450362320. Disponível em: <https://doi.org/10.1145/3316782.3322776>.
REIMER, B.; MEHLER, B.; COUGHLIN, J. F. Reductions in self-reported stress and
anticipatory heart rate with the use of a semi-automated parallel parking system. Applied
ergonomics, Elsevier, v. 52, p. 120–127, 2016.
REMPEL, J. K.; HOLMES, J. G.; ZANNA, M. P. Trust in close relationships. Journal of
personality and social psychology, American Psychological Association, v. 49, n. 1, p. 95,
1985.
RIBEIRO, S. M. S. Desenvolvimento de uma extensão da linguagem de modelagem iStar
para Sistemas Críticos de Segurança–iStar4Safety. Dissertação (Mestrado) — Universidade
Federal de Pernambuco, 2019.
209
RILEY, V. A general model of mixed-initiative human-machine systems. In: SAGE

PUBLICATIONS SAGE CA: LOS ANGELES, CA. Proceedings of the Human Factors Society
Annual Meeting. [S.l.], 1989. v. 33, n. 2, p. 124–128.
RINCÓN, A. M. R.; RODRÍGUEZ-DUEÑAS, W. R.; TORRES, D. A. Q.; BOHÓRQUEZ,

A. F.; MIGUEL-CRUZ, A. Children’s imaginaries of robots for playing with. International
Journal of Social Robotics, Springer, v. 14, n. 2, p. 463–477, 2022.
ROBACZEWSKI, A.; BOUCHARD, J.; BOUCHARD, K.; GABOURY, S. Socially

Assistive Robots: The Specific Case of the NAO. International Journal of Social
Robotics, v. 13, n. 4, p. 795–831, 2021. ISSN 1875-4805. Disponível em: <https:
//doi.org/10.1007/s12369-020-00664-7>.
ROBERT, L.; ALAHMAD, R.; ESTERWOOD, C.; KIM, S.; YOU, S.; ZHANG, Q. A review
of personality in human–robot interactions. Available at SSRN 3528496, 2020.
ROBINETTE, P.; HOWARD, A. M.; WAGNER, A. R. Timing is key for robot trust repair.
In: SPRINGER. International conference on social robotics. [S.l.], 2015. p. 574–583.
ROSSI, A.; DAUTENHAHN, K.; KOAY, K. L.; SAUNDERS, J. Investigating human

perceptions of trust in robots for safe hri in home environments. In: Proceedings of the
Companion of the 2017 ACM/IEEE International Conference on Human-Robot Interaction.
[S.l.: s.n.], 2017. p. 375–376.
ROSSI, A.; DAUTENHAHN, K.; KOAY, K. L.; WALTERS, M. L. The impact of peoples’
personal dispositions and personalities on their trust of robots in an emergency scenario.
Paladyn, Journal of Behavioral Robotics, Sciendo, v. 9, n. 1, p. 137–154, 2018.
ROSSI, S.; FERLAND, F.; TAPUS, A. User profiling and behavioral adaptation for hri: A
survey. Pattern Recognition Letters, Elsevier, v. 99, p. 3–12, 2017.
ROSSI, S.; SANTANGELO, G.; STAFFA, M.; VARRASI, S.; CONTI, D.; NUOVO, A. D.
Psychometric evaluation supported by a social robot: Personality factors and technology
acceptance. In: IEEE. 2018 27th IEEE International Symposium on Robot and Human
ROTTER, J. B. A new scale for the measurement of interpersonal trust. Journal of

personality, Blackwell Publishing, 1967.
SAAVEDRA, R.; EARLEY, P. C.; Van Dyne, L. Complex interdependence in task-performing

groups. Journal of Applied Psychology, American Psychological Association, US, v. 78, n. 1,
p. 61–72, 1993. ISSN 1939-1854(Electronic),0021-9010(Print).
SADI, M. H. Assisting with API design through reusing design knowledge. Tese (Doutorado)
— University of Toronto (Canada), 2020.
SADRFARIDPOUR, B. Trust-Based Control of Robotic Manipulators in Collaborative

Assembly in Manufacturing. Tese (Doutorado) — Clemson University, 2018.
SALEM, M.; DAUTENHAHN, K. Evaluating trust and safety in hri: Practical issues and
ethical challenges. Emerging Policy and Ethics of Human-Robot Interaction, ACM Press,
2015.
210
SALEM, M.; LAKATOS, G.; AMIRABDOLLAHIAN, F.; DAUTENHAHN, K. Towards safe

and trustworthy social robots: Ethical challenges and practical issues. In: TAPUS, A.;
ANDRÉ, E.; MARTIN, J.-C.; FERLAND, F.; AMMI, M. (Ed.). Social Robotics. Cham:
Springer International Publishing, 2015. p. 584–593.
SALEM, M.; LAKATOS, G.; AMIRABDOLLAHIAN, F.; DAUTENHAHN, K. Would you trust
a (faulty) robot? effects of error, task type and personality on human-robot cooperation and
trust. In: IEEE. 2015 10th ACM/IEEE International Conference on Human-Robot Interaction
(HRI). [S.l.], 2015. p. 1–8.
SALICHS, M. A.; BARBER, R.; KHAMIS, A. M.; MALFAZ, M.; GOROSTIZA, J. F.;
PACHECO, R.; RIVAS, R.; CORRALES, A.; DELGADO, E.; GARCIA, D. Maggie: A robotic
platform for human-robot social interaction. In: IEEE. 2006 IEEE conference on robotics,
automation and mechatronics. [S.l.], 2006. p. 1–7.
SANDERS, T. Individual differences in trust toward robotic assistants. 2016.
SANDERS, T.; OLESON, K. E.; BILLINGS, D. R.; CHEN, J. Y.; HANCOCK, P. A. A model
of human-robot trust: Theoretical model development. In: SAGE PUBLICATIONS SAGE
CA: LOS ANGELES, CA. Proceedings of the human factors and ergonomics society annual
meeting. [S.l.], 2011. v. 55, n. 1, p. 1432–1436.
SANDERS, T. L.; MACARTHUR, K.; VOLANTE, W.; HANCOCK, G.; MACGILLIVRAY, T.;
SHUGARS, W.; HANCOCK, P. Trust and prior experience in human-robot interaction. In:
SAGE PUBLICATIONS SAGE CA: LOS ANGELES, CA. Proceedings of the human factors
and ergonomics society annual meeting. [S.l.], 2017. v. 61, n. 1, p. 1809–1813.
SARTER, N. B. Multimodal information presentation: Design guidance and research

challenges. International journal of industrial ergonomics, Elsevier, v. 36, n. 5, p. 439–445,
2006.
SARTORATO, F.; PRZYBYLOWSKI, L.; SARKO, D. K. Improving therapeutic outcomes in

autism spectrum disorders: Enhancing social communication and sensory processing through
the use of interactive robots. Journal of psychiatric research, Elsevier, v. 90, p. 1–11, 2017.
SAUNDERSON, S.; NEJAT, G. How robots influence humans: A survey of nonverbal

communication in social human–robot interaction. International Journal of Social Robotics,
Springer, v. 11, n. 4, p. 575–608, 2019.
SAXBY, D. J.; MATTHEWS, G.; WARM, J. S.; HITCHCOCK, E. M.; NEUBAUER, C. Active
and passive fatigue in simulated driving: discriminating styles of workload regulation and
their safety impacts. Journal of experimental psychology: applied, American Psychological
Association, v. 19, n. 4, p. 287, 2013.
SCASSELLATI, B.; ADMONI, H.; MATARIĆ, M. Robots for use in autism research. Annual
review of biomedical engineering, Annual Reviews, v. 14, p. 275–294, 2012.
SCHADENBERG, B. R.; REIDSMA, D.; EVERS, V.; DAVISON, D. P.; LI, J. J.; HEYLEN,
D. K.; NEVES, C.; ALVITO, P.; SHEN, J.; PANTIĆ, M. et al. Predictable robots for autistic
children—variance in robot behaviour, idiosyncrasies in autistic children’s characteristics,
and child–robot engagement. ACM Transactions on Computer-Human Interaction (TOCHI),
ACM New York, NY, v. 28, n. 5, p. 1–42, 2021.
211
SCHAEFER, K. The Perception And Measurement Of Human-robot Trust. Tese (Doutorado)

— University of Central Florida, 2013. Disponível em: <http://purl.fcla.edu/fcla/etd/
CFE0004931>.
SCHAEFER, K. E.; BILLINGS, D. R.; HANCOCK, P. A. Robots vs. machines: Identifying

user perceptions and classifications. In: IEEE. 2012 IEEE International Multi-Disciplinary
Conference on Cognitive Methods in Situation Awareness and Decision Support. [S.l.], 2012.
p. 138–141.
SCHAEFER, K. E.; BILLINGS, D. R.; SZALMA, J. L.; ADAMS, J. K.; SANDERS, T. L.;
CHEN, J. Y.; HANCOCK, P. A. A meta-analysis of factors influencing the development of
trust in automation: Implications for human-robot interaction. [S.l.], 2014.
SCHAEFER, K. E.; CHEN, J. Y.; SZALMA, J. L.; HANCOCK, P. A. A meta-analysis of

factors influencing the development of trust in automation: Implications for understanding
autonomy in future systems. Human factors, Sage Publications Sage CA: Los Angeles, CA,
v. 58, n. 3, p. 377–400, 2016.
SCHAEFER, K. E.; SANDERS, T. L.; YORDON, R. E.; BILLINGS, D. R.; HANCOCK,

P. A. Classification of robot form: Factors predicting perceived trustworthiness. In: SAGE
PUBLICATIONS SAGE CA: LOS ANGELES, CA. Proceedings of the human factors and
ergonomics society annual meeting. [S.l.], 2012. v. 56, n. 1, p. 1548–1552.
SCHAEFER, K. E.; SCRIBNER, D. R. Individual differences, trust, and vehicle autonomy: A

pilot study. In: SAGE PUBLICATIONS SAGE CA: LOS ANGELES, CA. Proceedings of the
SCHEUTZ, M.; MALLE, B. F. Moral robots. In: The Routledge handbook of neuroethics.
[S.l.]: Routledge, 2017. p. 363–377.
SCHNEIDER, S.; KUMMERT, F. Comparing robot and human guided personalization:

adaptive exercise robots are perceived as more competent and trustworthy. International
SCHOORMAN, F. D.; MAYER, R. C.; DAVIS, J. H. An integrative model of organizational

trust: Past, present, and future. [S.l.]: Academy of Management Briarcliff Manor, NY 10510,
2007. 344–354 p.
SCOPELLITI, M.; GIULIANI, M. V.; FORNARA, F. Robots in a domestic setting: a

psychological approach. Universal access in the information society, Springer, v. 4, n. 2, p.
146–155, 2005.
SCOPELLITI, M.; GIULIANI, M. V.; FORNARA, F. Robots in a domestic setting: a

psychological approach. Universal access in the information society, Springer, v. 4, n. 2, p.
146–155, 2005.
SHARKEY, A. J. Should we welcome robot teachers? Ethics and Information Technology,

Springer, v. 18, n. 4, p. 283–297, 2016.
SHARPLES, S.; STEDMON, A.; COX, G.; NICHOLLS, A.; SHUTTLEWORTH, T.; WILSON,
J. Flightdeck and air traffic control collaboration evaluation (face): Evaluating aviation
communication in the laboratory and field. Applied ergonomics, Elsevier, v. 38, n. 4, p.
399–407, 2007.
212
SHERIDAN, T. B. Considerations in modeling the human supervisory controller. IFAC

Proceedings Volumes, v. 8, n. 1, Part 3, p. 223–228, 1975. ISSN 1474-6670. 6th
IFAC World Congress (IFAC 1975) - Part 3: Systems, Economics, Management, and
Social Effects, Boston/Cambridge, MA, USA, August 24-30, 1975. Disponível em:
SHERIDAN, T. B. Humans and automation: System design and research issues. [S.l.]: Human
Factors and Ergonomics Society, 2002.
SHIN, E.; KWAK, S. S.; KIM, M. S. A study on the elements of body feature based on
the classification of social robots. In: IEEE. RO-MAN 2008-The 17th IEEE International
Symposium on Robot and Human Interactive Communication. [S.l.], 2008. p. 514–519.
SIDNER, C. L.; LEE, C.; KIDD, C. D.; LESH, N.; RICH, C. Explorations in engagement for
humans and robots. Artificial Intelligence, Elsevier, v. 166, n. 1-2, p. 140–164, 2005.
SILVA, A.; PINHEIRO, P.; ALBUQUERQUE, A.; BARROSO, J. A process for creating the
elicitation guide of non-functional requirements. In: SPRINGER. Computer Science On-line
Conference. [S.l.], 2016. p. 293–302.
SILVA, R. A. d. Nfr4es: Um catálogo de requisitos nao-funcionais para sistemas embarcados.

Dissertação (Mestrado) — Universidade Federal de Pernambuco, 2019.
SILVERA-TAWIL, D.; ROBERTS-YATES, C. Socially-assistive robots to enhance learning

for secondary students with intellectual disabilities and autism. In: IEEE. 2018 27th IEEE
International Symposium on Robot and Human Interactive Communication (RO-MAN).
[S.l.], 2018. p. 838–843.
SIMS, V. K.; CHIN, M. G.; SUSHIL, D. J.; BARBER, D. J.; BALLION, T.; CLARK,
B. R.; GARFIELD, K. A.; DOLEZAL, M. J.; SHUMAKER, R.; FINKELSTEIN, N.
Anthropomorphism of robotic forms: A response to affordances? In: SAGE PUBLICATIONS
SAGE CA: LOS ANGELES, CA. Proceedings of the Human Factors and Ergonomics Society
Annual Meeting. [S.l.], 2005. v. 49, n. 3, p. 602–605.
SIMS, V. K.; CHIN, M. G.; YORDON, R. E.; SUSHIL, D. J.; BARBER, D. J.; OWENS,
C. W.; SMITH, H. S.; DOLEZAL, M. J.; SHUMAKER, R.; FINKELSTEIN, N. When function
follows form: Anthropomorphism of artifact “faces”. In: SAGE PUBLICATIONS SAGE CA:
LOS ANGELES, CA. Proceedings of the Human Factors and Ergonomics Society Annual
Meeting. [S.l.], 2005. v. 49, n. 3, p. 595–597.
SIRDESHMUKH, D.; SINGH, J.; SABOL, B. Consumer trust, value, and loyalty in relational
exchanges. Journal of marketing, SAGE Publications Sage CA: Los Angeles, CA, v. 66, n. 1,
p. 15–37, 2002.
SKANTZE, G.; HJALMARSSON, A.; OERTEL, C. Exploring the effects of gaze and pauses
in situated human-robot interaction. In: Proceedings of the SIGDIAL 2013 Conference. [S.l.:
s.n.], 2013. p. 163–172.
SOMMERVILLE, I. Engenharia de software. 8. ed. São Paulo: Addison Wesley, 2007.
SOMMERVILLE, I.; SAWYER, P. RE: a good practice guide. [S.l.]: John Wiley and Sons,
1997.
213
SOMMERVILLE, l. Engenharia de Software. Tradução Ivan Bosnic e Kalinka G. de O.

Gonçalves; revisão técnica Kechi Hirama. 9. ed. São Paulo: Pearson Prentice Hall, 2011.
SONG, L.; KUCHAR, J. K. Dissonance between multiple alerting systems. i. modeling and
analysis. IEEE Transactions on Systems, man, and Cybernetics-Part A: Systems and Humans,
IEEE, v. 33, n. 3, p. 366–375, 2003.
SORRENTINO, A.; MANCIOPPI, G.; COVIELLO, L.; CAVALLO, F.; FIORINI, L. Feasibility
study on the role of personality, emotion, and engagement in socially assistive robotics:
A cognitive assessment scenario. In: MULTIDISCIPLINARY DIGITAL PUBLISHING
INSTITUTE. Informatics. [S.l.], 2021. v. 8, n. 2, p. 23.
SPAIN, R. D.; BLISS, J. P. The effect of sonification display pulse rate and reliability
on operator trust and perceived workload during a simulated patient monitoring task.
STANTON, C.; STEVENS, C. J. Robot pressure: the impact of robot eye gaze and lifelike
bodily movements upon decision-making and trust. In: SPRINGER. International conference
on social robotics. [S.l.], 2014. p. 330–339.
STANTON, N. A.; YOUNG, M. S.; WALKER, G. H. The psychology of driving automation:
a discussion with professor don norman. International journal of vehicle design, Inderscience
Publishers, v. 45, n. 3, p. 289–306, 2007.
STEDMON, A. W.; SHARPLES, S.; LITTLEWOOD, R.; COX, G.; PATEL, H.; WILSON,
J. R. Datalink in air traffic management: Human factors issues in communications. Applied
ergonomics, Elsevier, v. 38, n. 4, p. 473–480, 2007.
STEWART, G. L. A meta-analytic review of relationships between team design features and
team performance. Journal of Management, v. 32, n. 1, p. 29–55, 2006. Disponível em:
<https://doi.org/10.1177/0149206305277792>.
STUCK, R. E.; HOLTHAUSEN, B. E.; WALKER, B. N. Chapter 8 - the role of risk
in human-robot trust. In: NAM, C. S.; LYONS, J. B. (Ed.). Trust in Human-Robot
Interaction. Academic Press, 2021. p. 179–194. ISBN 978-0-12-819472-0. Disponível em:
<https://www.sciencedirect.com/science/article/pii/B9780128194720000083>.
STUCK, R. E.; ROGERS, W. A. Older adults’ perceptions of supporting factors of trust in a
robot care provider. Journal of Robotics, Hindawi, v. 2018, 2018.
SULLIVAN, J. M.; TSIMHONI, O.; BOGARD, S. Warning reliability and driver performance
in naturalistic driving. Human factors, SAGE Publications Sage CA: Los Angeles, CA, v. 50,
n. 5, p. 845–852, 2008.
SUN, H.; ZHANG, P. The role of moderating factors in user technology acceptance.
International journal of human-computer studies, Elsevier, v. 64, n. 2, p. 53–78, 2006.
SUNG, J.; CHRISTENSEN, H. I.; GRINTER, R. E. Robots in the wild: understanding
long-term use. In: Proceedings of the 4th ACM/IEEE international conference on Human
robot interaction. [S.l.: s.n.], 2009. p. 45–52.
SZALMA, J. L.; TAYLOR, G. S. Individual differences in response to automation: the
five factor model of personality. Journal of Experimental Psychology: Applied, American
214
TAKAYAMA, L.; PANTOFARU, C. Influences on proxemic behaviors in human-robot

interaction. In: IEEE. 2009 IEEE/RSJ International Conference on Intelligent Robots and
Systems. [S.l.], 2009. p. 5495–5502.
TAPUS, A.; MATARIC, M. J. Towards socially assistive robotics. Journal of the Robotics
Society of Japan, The Robotics Society of Japan, v. 24, n. 5, p. 576–578, 2006.
TAPUS, A.; MATARIĆ, M. J. Socially assistive robots: The link between personality,
empathy, physiological signals, and task performance. In: AAAI spring symposium: emotion,
personality, and social behavior. [S.l.: s.n.], 2008. p. 133–140.
TAPUS, A.; MATARIĆ, M. J. User personality matching with a hands-off robot for post-stroke
rehabilitation therapy. In: SPRINGER. Experimental robotics. [S.l.], 2008. p. 165–175.
TAPUS, A.; MATARIĆ, M. J.; SCASSELLATI, B. Socially assistive robotics [grand challenges
of robotics]. IEEE Robotics Automation Magazine, v. 14, n. 1, p. 35–42, 2007.
TERRA, J. C. C. et al. Taxonomia: elemento fundamental para a gestão do conhecimento.
2005. Disponível em: <http://www.terraforum.com.br>.
TEXTOR, C.; PAK, R. Paying attention to trust: Exploring the relationship between attention
control and trust in automation. In: SAGE PUBLICATIONS SAGE CA: LOS ANGELES, CA.
Proceedings of the Human Factors and Ergonomics Society Annual Meeting. [S.l.], 2021.
v. 65, n. 1, p. 817–821.
THILL, S.; POP, C. A.; BELPAEME, T.; ZIEMKE, T.; VANDERBORGHT, B. Robot-assisted
therapy for autism spectrum disorders with (partially) autonomous control: Challenges and
outlook. Paladyn, Springer, v. 3, n. 4, p. 209–217, 2012.
THROPP, J. E. Individual preferences using automation. [S.l.]: University of Central Florida,
2006.
TISHA, T. A.; SHIBLY, M. M. A. Non-functional requirements for blockchain: Challenges
and new directions. In: IOP PUBLISHING. IOP Conference Series: Materials Science and
Engineering. [S.l.], 2021. v. 1110, n. 1, p. 012016.
TORTA, E.; DIJK, E. v.; RUIJTEN, P. A.; CUIJPERS, R. H. The ultimatum game as
measurement tool for anthropomorphism in human–robot interaction. In: SPRINGER.
International Conference on Social Robotics. [S.l.], 2013. p. 209–217.
TSIAKAS, K.; ABUJELALA, M.; MAKEDON, F. Task engagement as personalization
feedback for socially-assistive robots and cognitive training. Technologies, Multidisciplinary
Digital Publishing Institute, v. 6, n. 2, p. 49, 2018.
TUCKER, P. The impact of rest breaks upon accident risk, fatigue and performance: a
review. Work & Stress, Taylor & Francis, v. 17, n. 2, p. 123–137, 2003.
TURJA, T.; RANTANEN, T.; OKSANEN, A. Robot use self-efficacy in healthcare work
(rush): development and validation of a new measure. AI & SOCIETY, Springer, v. 34, n. 1,
p. 137–143, 2019.
UGGIRALA, A.; GRAMOPADHYE, A. K.; MELLOY, B. J.; TOLER, J. E. Measurement of
trust in complex and dynamic systems using a quantitative approach. International Journal of
Industrial Ergonomics, Elsevier, v. 34, n. 3, p. 175–186, 2004.
215
ULIASZEK, A. A.; ZINBARG, R. E.; MINEKA, S.; CRASKE, M. G.; GRIFFITH, J. W.;
SUTTON, J. M.; EPSTEIN, A.; HAMMEN, C. A longitudinal examination of stress
generation in depressive and anxiety disorders. Journal of abnormal psychology, American
UMBRICO, A.; CESTA, A.; CORTELLESSA, G.; ORLANDINI, A. A holistic approach to
behavior adaptation for socially assistive robots. International Journal of Social Robotics,
Springer, v. 12, n. 3, p. 617–637, 2020.
VANDEMEULEBROUCKE, T.; CASTERLÉ, B. D. de; GASTMANS, C. How do older
adults experience and perceive socially assistive robots in aged care: a systematic review of
qualitative evidence. Aging & mental health, Taylor & Francis, v. 22, n. 2, p. 149–167, 2018.
VANDEMEULEBROUCKE, T.; DZI, K.; GASTMANS, C. Older adults’ experiences with
and perceptions of the use of socially assistive robots in aged care: A systematic review of
quantitative evidence. Archives of Gerontology and Geriatrics, Elsevier, v. 95, p. 104399,
2021.
VERBERNE, F. M.; HAM, J.; MIDDEN, C. J. Trust in smart systems: Sharing driving goals
and giving information to increase trustworthiness and acceptability of smart systems in cars.
VRIES, P. D.; MIDDEN, C. Effect of indirect information on system trust and control
allocation. Behaviour & information technology, Taylor & Francis, v. 27, n. 1, p. 17–29, 2008.
WAGNER, A. R. The role of trust and relationships in human-robot social interaction. [S.l.]:
Georgia Institute of Technology, 2009.
WALTERS, M. L.; DAUTENHAHN, K.; BOEKHORST, R. T.; KOAY, K. L.; KAOURI, C.;
WOODS, S.; NEHANIV, C.; LEE, D.; WERRY, I. The influence of subjects’ personality traits
on personal spatial zones in a human-robot interaction experiment. In: IEEE. ROMAN 2005.
IEEE International Workshop on Robot and Human Interactive Communication, 2005. [S.l.],
2005. p. 347–352.
WALTERS, M. L.; KOAY, K. L.; SYRDAL, D. S.; DAUTENHAHN, K.; BOEKHORST,
R. T. Preferences and perceptions of robot appearance and embodiment in human-robot
interaction trials. Procs of New Frontiers in Human-Robot Interaction, 2009.
WALTERS, M. L.; OSKOEI, M. A.; SYRDAL, D. S.; DAUTENHAHN, K. A long-term
human-robot proxemic study. In: IEEE. 2011 RO-MAN. [S.l.], 2011. p. 137–142.
WALTERS, M. L.; SYRDAL, D. S.; DAUTENHAHN, K.; BOEKHORST, R. T.; KOAY, K. L.
Avoiding the uncanny valley: robot appearance, personality and consistency of behavior in
an attention-seeking home scenario for a robot companion. Autonomous Robots, Springer,
v. 24, n. 2, p. 159–178, 2008.
WANG, L.; JAMIESON, G. A.; HOLLANDS, J. G. The effects of design features on users’
trust in and reliance on a combat identification system. In: SAGE PUBLICATIONS SAGE
Meeting. [S.l.], 2011. v. 55, n. 1, p. 375–379.
WARD, N. J. Automation of task processes: An example of intelligent transportation systems.
Human Factors and Ergonomics in Manufacturing & Service Industries, Wiley Online Library,
v. 10, n. 4, p. 395–408, 2000.
216
WASHBURN, A.; ADELEYE, A.; AN, T.; RIEK, L. D. Robot errors in proximate hri:
how functionality framing affects perceived reliability and trust. ACM Transactions on
Human-Robot Interaction (THRI), ACM New York, NY, USA, v. 9, n. 3, p. 1–21, 2020.
WAYTZ, A.; HEAFNER, J.; EPLEY, N. The mind in the machine: Anthropomorphism
increases trust in an autonomous vehicle. Journal of Experimental Social Psychology, Elsevier,
v. 52, p. 113–117, 2014.
WEISS, A.; BERNHAUPT, R.; LANKES, M.; TSCHELIGI, M. The usus evaluation framework
for human-robot interaction. Proc. of AISB 09, v. 4, p. 11–26, 01 2009.
WICKENS, C. D.; RICE, S.; KELLER, D.; HUTCHINS, S.; HUGHES, J.; CLAYTON, K.
False alerts in air traffic control conflict alerting system: Is there a “cry wolf” effect? Human
factors, Sage Publications Sage CA: Los Angeles, CA, v. 51, n. 4, p. 446–462, 2009.
WIEGERS, K.; BEATTY, J. Software requirements. [S.l.]: Pearson Education, 2013.
WIEGMANN, D.; MCCARLEY, J. S.; KRAMER, A. F.; WICKENS, C. D. Age and automation
interact to influence performance of a simulated luggage screening task. Aviation, Space, and
Environmental Medicine, Aerospace Medical Association, v. 77, n. 8, p. 825–831, 2006.
WIEGMANN, D. A.; EGGMAN, A. A.; ELBARDISSI, A. W.; PARKER, S. H.; III, T. M.

S. Improving cardiac surgical care: a work systems approach. Applied ergonomics, Elsevier,
v. 41, n. 5, p. 701–712, 2010.
WINKLE, K.; CALEB-SOLLY, P.; TURTON, A.; BREMNER, P. Mutual shaping in the design
of socially assistive robots: A case study on social robots for therapy. International Journal of
Social Robotics, Springer, v. 12, n. 4, p. 847–866, 2020.
WITHALL, S. Software requirement patterns. [S.l.]: Pearson Education, 2007.
WOHLEBER, R. W.; CALHOUN, G. L.; FUNKE, G. J.; RUFF, H.; CHIU, C.-Y. P.; LIN, J.;
MATTHEWS, G. The impact of automation reliability and operator fatigue on performance
and reliance. In: SAGE PUBLICATIONS SAGE CA: LOS ANGELES, CA. Proceedings of the
XU, Q.; NG, J.; CHEONG, Y.; TAN, O.; WONG, J.; TAY, T.; PARK, T. The role of social
context in human-robot interaction. In: IEEE. 2012 Southeast Asian Network of Ergonomics
Societies Conference (SEANES). [S.l.], 2012. p. 1–5.
YAGODA, R. E.; GILLAN, D. J. You want me to trust a robot? the development of a

human–robot interaction trust scale. International Journal of Social Robotics, Springer, v. 4,
n. 3, p. 235–248, 2012.
YAMADA, K.; KUCHAR, J. K. Preliminary study of behavioral and safety effects of driver
dependence on a warning system in a driving simulator. IEEE transactions on systems, man,
and cybernetics-Part A: Systems and humans, IEEE, v. 36, n. 3, p. 602–610, 2006.
YAMASHITA, Y.; ISHIHARA, H.; IKEDA, T.; ASADA, M. Investigation of causal relationship
between touch sensations of robots and personality impressions by path analysis. International
217
YAN, H.; ANG, M. H.; POO, A. N. A survey on perception methods for human–robot
interaction in social robots. International Journal of Social Robotics, Springer, v. 6, n. 1, p.
85–119, 2014.
YANCO, H. A.; DRURY, J. Classifying human-robot interaction: an updated taxonomy. In:

IEEE. 2004 IEEE International Conference on Systems, Man and Cybernetics (IEEE Cat. No.
04CH37583). [S.l.], 2004. v. 3, p. 2841–2846.
YUEH, H.-P.; LIN, W. Services, appearances and psychological factors in intelligent home
service robots. In: SPRINGER. International Conference on Cross-Cultural Design. [S.l.],
2016. p. 608–615.
ZHOU, T. Understanding users’ initial trust in mobile banking: An elaboration likelihood

perspective. Computers in human behavior, Elsevier, v. 28, n. 4, p. 1518–1525, 2012.
218
APÊNDICE A – TERMO DE CONSENTIMENTO LIVRE E ESCLARECIDO
12/02/2022 20:29 Questionário de Coleta de Dados para a Prova de Conceito
2. O termo de Consentimento Livre e Esclarecido a seguir é um texto que explica os

detalhes sobre sua participação voluntária na pesquisa. Leia, e caso aceite esse
convite, responda que concorda. *
Você está sendo convidado(a) a participar, como voluntário (a), da pesquisa intitulada "NFR4TRUST:
CATÁLOGO DE REQUISITOS NÃO-FUNCIONAIS DECONFIANÇA PARA ROBÔS SOCIALMENTE ASSISTIVOS",
projeto de dissertação da aluna de mestrado em Ciência da Computação da Universidade Federal de
Pernambuco, Larissa Rodrigues da Costa, e orientado por Jaelson Freire Brelaz de Castro, professor do
Centro de Informática da Universidade Federal de Pernambuco. Você responderá a um questionário WEB,
onde deverá fazer uso dos materiais disponibilizados e responder questões referentes ao catálogo
NFR4TRUST aplicado. Sua participação não é obrigatória . A qualquer momento, você poderá desistir de
participar e interromper o preenchimento do questionário. Sua recusa, desistência, ou retirada de
consentimento, não acarretará prejuízo para você. A pesquisa não oferece riscos para os participantes.
Sua participação não é remunerada e nem implicará em gastos para você. Os dados obtidos por meio
desta pesquisa serão confidenciais e não serão divulgados em nível individual, visando assegurar o sigilo
de sua participação. Neste caso, os pesquisadores se comprometem a tornar públicos nos meios
acadêmicos e científicos os resultados sem qualquer identificação das pessoas que participaram. Caso
você concorde em participar desta pesquisa, assinale ao final deste documento, que possui duas vias,
sendo uma delas sua, que será enviada como recibo de resposta, e a outra, do pesquisador
responsável/coordenador da pesquisa. Seguem os contatos do pesquisador responsável onde você
poderá tirar suas dúvidas sobre o projeto e sua participação nele, agora ou a qualquer momento. Contato
dos pesquisadores responsáveis: Larissa Rodrigues da Costa, e-mail: lrc@cin.ufpe.br, Jaelson Freire
Brelaz de Castro, e-mail: jbc@cin.ufpe.br Declaro que entendi os objetivos, riscos e benefícios de minha
participação na pesquisa, e que concordo em participar.
Marcar apenas uma oval.
Concordo
Discordo
3. Q1 - Descreva Sistema robótico NAO no contexto de fisioterapia para auxiliar na

reabilitação motora de membros superiores. *
4. Q2 - Quais os objetivos do SARs NAO na fisioterapia. *

219
APÊNDICE B – QUESTIONÁRIO DE AVALIAÇÃO DO NFR4TRUST
Questionário Avaliação NFR4TRUST

Gostaríamos de agradecer a sua atenção e o seu interesse em colaborar com o estudo.
Esse questionário servirá de base para a avaliação de um catálogo proposto em um trabalho de

mestrado. O objetivo deste trabalho é a definição de um Catálogo de Requisitos Não-Funcionais
para Robôs Socialmente Assistivos (SARs) com foco em características de Confiança (Trust) que
possa ser utilizado por Engenheiros de Requisitos, Projetistas e Desenvolvedores de SARs.
Antes de iniciar as perguntas, será preciso que você leia atentamente ao Termo de
Consentimento Livre e Esclarecido abaixo e assinale se concorda ou não em participar.
O material necessário para responder esse questionário encontra-se disponíveis em uma pasta
do Google Drive, acesse através do link:
https://drive.google.com/drive/folders/1BY7_Xy-hbe06uBw0nt9FSBA_gQoCqAfM?usp=sharing
Materiais:
-Imagem do catálogo
-Documento com síntese dos conceitos dos requisitos do catálogo NFR4TRUST
-Apresentação
O tempo para responder essa pesquisa é de aproximadamente 20-30 minutos
*Obrigatório
1. E-mail *
220
3. Qual a sua maior formação? *
Graduação
Especialização
Mestrado
Mestrado incompleto
Doutorado
Doutorado incompleto
Pós-Doutorado
Pós-Doutorado incompletoNão
possui formação
4. Como você definiria seu nível de conhecimento em elicitação de requisitos? *
Nenhum
Baixo
Médio
Alto
Muito Alto
5. Tem alguma experiência profissional com elicitação e especificação de requisitos? *
Tenho
Não tenho
Muito pouca
221
6. Como você definiria seu nível de conhecimento na abordagem NFR Framework? *
Nenhum
Baixo
Médio
Alto
Muito Alto
7. Como você definiria seu nível de conhecimento em Interação Humano-Robô? *
Nenhum
Baixo
Médio
Alto
Muito Alto
8. Alguma vez você já ouviu falar ou conhece os fatores de Confiança de Interação *

Humano-Robô?
Não conheço
Já ouvi falar
Conheço
Conheço os fatores, mas não sabia que era uma área de pesquisa
9. Como você definiria seu nível de conhecimento em robótica social? *
Nenhum
Baixo
Médio
Alto
Muito alto
222
10. Como você definiria seu nível de conhecimento em robótica socialmente assistiva? *
Nenhum
Baixo
Médio
Alto
Muito alto
Análise do Catálogo NFR4TRUST
11. Os Requisitos Não-Funcionais apresentados no catálogo NFR4TRUST são pertinentes *a

construção de projetos de Robôs Socialmente Assistivos (SARs) que transmitam mais
Confiança.
Discordo totalmente
Discordo parcialmente
Neutro
Concordo parcialmente
Concordo totalmente
12. As CORRELAÇÕES apresentadas no catálogo NFR4TRUST são condizentes com as *

relações entre os fatores de Confiança dos Robôs Socialmente Assistivos .
https://drive.google.com/file/d/17eYYmZC88XZJ4ogMu2_a-ejr_SbesbR3/view?usp=sharing
Discordo totalmente
Neutro
Concordo totalmente
223
13. Os requisitos de Confiança do catálogo NFRTRUST apresentam definições adequadas. *

https://drive.google.com/file/d/1jYyuAorHkTPwFcu-ta0LLCNwxs3ZiEUG/view?usp=sharing
Discordo totalmente
Neutro
Concordo totalmente
14. O catálogo NFR4TRUST é de fácil entendimento. *

Correlações+Conceitos+Figura
Discordo totalmente
Neutro
Concordo totalmente
15. O catálogo NFR4TRUST é um artefato útil nas etapas de elicitação e especificação no *

processo de Engenharia de Requisitos para Sistemas Robóticos SocialmenteAssistivos.
Discordo totalmente
Neutro
Concordo totalmente
224
16. Eu utilizaria o catálogo NFR4TRUST em projetos futuros de desenvolvimento de Robôs *

Socialmente Assistivos.
Discordo totalmente
Neutro
Concordo totalmente
17. Eu recomendaria a outras pessoas a utilização do catálogo NFR4TRUST em projetos *

de Robôs Socialmente Assistivos.
Discordo totalmente
Neutro
Concordo totalmente
Finalização (Sugestões)
18. Dentro dos fatores de confiança, qual você acha que é o mais importante? *
https://drive.google.com/file/d/1BSTVmHd2vV85WtzK-bC8e1dhe5sGzs9C/view?usp=sharing
225
19. Você acha que esse catálogo pode ser utilizado para projetar uma aplicação de SARs, *
da perspectiva da confiança, que possa melhorar a aceitação dos usuários ?
20. Há algum fator de confiança no projeto de robôs socialmente assistivos que não foi *
citado e você gostaria de destacar e acrescentar no catálogo?
https://drive.google.com/file/d/1BSTVmHd2vV85WtzK-bC8e1dhe5sGzs9C/view?usp=sharing
21. Há alguma correlação que você gostaria de modificar ou acrescentar no catálogo? *
22. Existem outras modificações que podem ser feitas para melhorar o catálogo? Quais? *
226
APÊNDICE C – UM RESUMO DA AULA DADA VIRTUALMENTE, A FIM DE

CONTEXTUALIZAR OS TEMAS PERTINENTES.
227

DISSERTAÇÃO Larissa Rodrigues Da Costa

Enviado por

Direitos autorais:

Formatos disponíveis

DISSERTAÇÃO Larissa Rodrigues Da Costa

Enviado por

Dados do documento

Descrição original:

Título original

Direitos autorais

Formatos disponíveis

Compartilhar este documento

Compartilhar ou incorporar documento

Opções de compartilhamento

Você considera este documento útil?

Este conteúdo é inapropriado?

Direitos autorais:

Formatos disponíveis

DISSERTAÇÃO Larissa Rodrigues Da Costa

Enviado por

Direitos autorais:

Formatos disponíveis

UNIVERSIDADE FEDERAL DE PERNAMBUCO

LARISSA RODRIGUES DA COSTA

NFR4TRUST: CATÁLOGO DE REQUISITOS NÃO-FUNCIONAIS DE CONFIANÇA PARA

NFR4TRUST: CATÁLOGO DE REQUISITOS NÃO-FUNCIONAIS DE CONFIANÇA PARA

Trabalho apresentado ao Programa de Pós-

Área de Concentração: Engenharia de Software e

Orientador: Prof. Jaelson Freire Brelaz de Castro

C837n Costa, Larissa Rodrigues da

Orientador: Jaelson Freire Brelaz de Castro.

Inclui referências e apêndices.

1. Engenharia de software. 2. Engenharia de requisitos. I. Castro, Jaelson

005.1 CDD (23. ed.) UFPE - CCEN 2022-151

“NFR4TRUST: CATÁLOGO DE REQUISITOS NÃO-FUNCIONAIS DE

Dissertação de Mestrado apresentada ao

Aprovado em: 03/03/2022.

Ao seu Jose, o meu Teimoso Favorito... (in memorian 02/10/21).

No campo de pesquisa da Robótica Socialmente Assistiva (Socially Assistive Robotics) o

Palavras-chaves: robôs socialmente assistivos; interação humano-robô; confiança; engenharia

Keywords: socially assistive robots; human-robot interaction; trust; requirements engineering;

Figura 1 – Classificação da metodologia de pesquisa utilizada nesse trabalho . . . . . 21

Tabela 1 – Tipos de Softgoals . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 44

APIs Interfaces de Programação de Aplicativos

BPMN Business Process Modeling and Notation

CCD Dispositivo de carga acoplada

GDPR General Data Protection Regulation

HRI Human-Robot Interaction

LOA Level of Automation

NFRs Non-Functional Requirements

OMG Object Management Group

PoC Proof of Concept

QUEST The Quebec User Evaluation of Satisfaction with Assistive Technology

RAPID Rational API Designer

RSC Responsabilidade Social Corporativa

SAR Socially Assistive Robotics

SARs Socially Assistive Robots

SIG Softgoal Interdependency Graph

SIR Socially Interactive Robotics

SMM Shared Mental Models

TEA Transtorno do Espectro Autista

TEP Technology Experience Profile

De acordo com Binotte (2018), os Robôs Socialmente Assistivos 1

1.2 CARACTERIZAÇÃO DO PROBLEMA

No desenvolvimento de SARs o estudo da confiança humana na interação com o robô

Este trabalho tem como objetivo geral o desenvolvimento de um catálogo de Requisitos

1.3.1 Objetivos Específicos

• Realizar um levantamento bibliográfico sobre Confiança para identificar os aspectos re-

• Desenvolver um Catálogo de Requisitos Não-Funcionais para Robôs Socialmente Assis-

• Ilustrar o uso do catálogo NFR4TRUST.

• Avaliar o catálogo, através de entrevistas com especialistas do domínio e engenheiros de

1.3.2 Questões de pesquisa

Com base na descrição do contexto e caracterização do problema sobre a elicitação e espe-

• O que se caracteriza como um Requisito Não-Funcional de Confiança para o domínio de

• Quais Requisitos Não-Funcionais de Confiança devem ser levados em consideração no

Esta pergunta tem como objetivo a obtenção de um conjunto de Requisitos Não-

• Quais as relações entre os Requisitos Não-Funcionais de Confiança para Robôs Social-

Esta pergunta visa obter os inter-relacionamentos entre os Requisitos Não-Funcionais

• Como desenvolver um catálogo de Requisitos Não-Funcionais de Confiança no domínio

1.4 METODOLOGIA DE PESQUISA