É correto cometer crueldades com um robô?

Direito de imagem Thinkstock
Image caption Experimentos demonstraram o desconforto de voluntários com a crueldade com robôs

Kate Darling é uma pessoa que gosta de nos mandar fazer coisas terríveis com robôs adoráveis. Em um workshop que realizado há dois anos, ela pediu para os participantes brincarem com vários robôs Pleo, um dinossauro de pelúcia verde que serve como brinquedo.

Ao tirá-lo da caixa, a sensação é de estar segurando um filhote recém-nascido: seu dono é quem tem que ensinar a ele tudo sobre o mundo.

Mas depois de deixar as pessoas brincarem e darem colo ao dinossaurinho durante uma hora, Darling se tornou uma carrasca. Distribuiu aos participantes facas e machadinhas e os mandou torturar e desmembrar o brinquedo. “O que aconteceu em seguida foi muito mais dramático do que eu podia imaginar”, conta ela.

Darling é uma pesquisadora do Instituto de Tecnologia de Massachusetts (MIT), nos Estados Unidos. Para ela, nossa reação à crueldade com robôs é importante porque uma nova geração de máquinas está nos obrigando a repensar nossa relação com elas.

Segundo ela, maltratar certos robôs poderia em breve se tornar algo inaceitável aos olhos da sociedade. Ela acredita até que seja necessário estabelecer um código de “direitos dos robôs”.

Curtiu? Siga a BBC no Facebook!

Leia mais: Inteligência artificial: máquinas que pensam devem surgir 'até 2050'

Leia mais: Quais profissões estão ameaçadas pelos robôs?

Estimulação dos sentimentos

Direito de imagem
Image caption Robô japonês simularia uma criança pequena, mas filósofo pede o fim desse tipo de máquina

Até recentemente, essa ideia era apenas explorada no mundo da ficção científica. Provavelmente porque as verdadeiras máquinas que nos cercavam eram bastante simples: ninguém se sente mal ao jogar fora uma torradeira ou um carrinho de controle remoto, por exemplo.

Mas a chegada dos “robôs sociais” mudou isso. “Eles têm um comportamento autônomo, demonstram intenções e assumem formas familiares como humanoides ou animais de estimação”, afirma Darling. Ou seja, eles agem como se estivessem vivos, estimulando nossos sentimentos.

Por exemplo, em um pequeno experimento em 2011, outros cientistas do MIT pediram para crianças segurarem de cabeça para baixo uma Barbie, um hamster de verdade e um robô Furby pelo tempo que aguentassem.

Os participantes não tiveram dificuldades em manter a boneca virada, mas logo pararam de “torturar” o hamster que se contorcia e, pouco depois, o Furby. As crianças tinham idade para entender que se tratava de um brinquedo, mas não conseguiam mantê-lo de cabeça para baixo quando o robô chorava e dizia “Eu, medo”.

E não são só as crianças que se apegam a esses amontoados de fios e circuitos. Algumas pessoas dão nome a seus aspiradores de pó, enquanto militares costumam honrar robôs com medalhas.

Leia mais: O homem que não consegue sentir emoções

Instinto assassino

Direito de imagem
Image caption Robôs que assumem formas de animais também despertam empatia em usuários

Alguns pesquisadores estão começando a concordar com a ideia de que se um robô parece estar vivo e com uma mente própria, qualquer pequena simulação de sentimentos nos obriga a ter empatia com a máquina, mesmo sabendo que se trata de algo artificial.

Em 2013, cientistas da Universidade de Duisburg-Essen, na Alemanha, usaram um aparelho de ressonância magnética e outros para acompanhar as reações de voluntários a um vídeo que mostrava alguém torturando um dinossauro Pleo.

As respostas emocionais e fisiológicas foram muito mais intensas do que se esperava, apesar de os participantes saberem que se tratava de um robô.

Da mesma forma, os voluntários do workshop de Darling se recusaram a machucar seus dinossauros com as armas distribuídas. A cientista, então, sugeriu que um dos participantes deveria se oferecer para matar apenas um dos Pleos, sob a ameaça de ter todos eles destruídos.

Quando depois de muita discussão, um relutante homem aceitou fazer o sacrifício, a sala inteira caiu em silêncio. “A força da reação emocional das pessoas presentes parece ter surpreendido todos eles”, lembra Darling.

Leia mais: Contra reprodução de estereótipos, campanha pede proibição de robôs sexuais

Ética para robôs

Considerando-se a possibilidade de reações como essas, há alguns anos especialistas em robótica da Europa defenderam que precisamos estabelecer um novo código de ética para a fabricação de robôs.

A ideia deles era adaptar as famosas “leis da robótica” do autor Isaac Asimov para a era moderna. Uma das regras determina que os robôs “não poderiam ser projetados de maneira enganosa... e sua identidade de máquina deveria ser transparente”.

Darling, no entanto, acredita que é possível ir além e criar uma maneira de proteger os “direitos dos robôs” no sistema judicial. Seria algo como as leis que defendem animais da crueldade”, explica.

Há ainda a possibilidade de que as máquinas comecem a realmente experimentar sensações de sofrimento. Alguns pesquisadores já começaram a desenvolver robôs que “sentem” dor.

Mas cientistas acreditam que quando esses equipamentos adquirirem uma consciência de sua própria existência, as consequências serão desagradáveis.

Por isso, o filósofo alemão Thomas Metzinger, da Universidade de Mainz, argumenta que deveríamos parar de tentar criar robôs inteligentes. “As primeiras máquinas conscientes serão como crianças, portanto tratá-las como máquinas será uma crueldade”, explica.

“Deveríamos evitar fazer qualquer coisa que possa aumentar a quantidade de sofrimento no universo”, conclui o filósofo.

O que está claro é que existe um espectro de “vida” nos robôs, de simulações básicas do comportamento de um animal de estimação a máquinas que no futuro poderão perceber sentimentos como o sofrimento.

Mas, como a experiência de Darling sugere, não é preciso muito para despertar uma resposta emocional em cada um de nós. A questão é se podemos definir um limite até onde a crueldade com essas máquinas é tolerável.

Leia mais: O que o suor revela sobre nossas emoções

Leia mais: 'Robô mochileiro' é vandalizado após rodar pelos EUA de carona com humanos

Leia a versão original desta reportagem em inglês no site BBC Future.

Acompanhe o conteúdo da BBC Brasil no Facebook, Twitter e Instagram!