PARTE 01 de 03: IA e Jurassic Park Criando Monstros Modernos
Prof. Ms. Luciano do Amaral Dornelles
@prof.lucianodornelles
23/07/23
NOTA DO EDITOR:
Esta publicação tem características diferentes pois esta será base para a Série de 3 podcast aqui no portal, onde podemos conferir as data gravação através do calendário 2023 de eventos digitais, acompanhe pela página inicial e nossas redes sociais, em especial no YouTube!
CLIQUE NA IMAGEM PARA COMPRAR O E-BOOK COMPLETO!!
Parte 2 de 3: publicada em 29/09/23
Introdução: Quando a ficção encontra a realidade
O tempo é um conceito fascinante que tem sido objeto de estudo e reflexão ao longo da
história. Em nossa busca para entender o tempo, muitas vezes recorremos à ficção para
explorar possibilidades e imaginar cenários futuros. Mas o que acontece quando a ficção
encontra a realidade e nossas criações imaginárias começam a tomar forma no mundo real?
Neste texto, exploramos essa questão examinando as semelhanças entre o desenvolvimento atual da IA e a história do filme Jurassic Park.
Jurassic Park é um filme de ficção científica lançado em 1993, dirigido por Steven Spielberg e baseado no livro homônimo de Michael Crichton. O filme se passa em um parque temático de dinossauros criado por um bilionário excêntrico, onde os visitantes podem ver dinossauros reais trazidos de volta à vida através da clonagem. No entanto, quando um funcionário desonesto desativa os sistemas de segurança do parque, os dinossauros escapam e começam a caçar os visitantes, levando a uma luta pela sobrevivência.
A IA, ou inteligência artificial, é um campo da ciência da computação que se concentra no
desenvolvimento de sistemas capazes de realizar tarefas que normalmente requerem
inteligência humana, como reconhecimento de padrões, aprendizado e tomada de decisões. A IA vem sendo discutida atualmente devido aos avanços recentes na tecnologia que permitiram a criação de sistemas cada vez mais sofisticados e capazes. Esses sistemas têm o potencial de transformar muitas áreas de nossas vidas, mas também apresentam riscos e desafios significativos.
Ao explorar as semelhanças entre o desenvolvimento atual da IA e a história do filme Jurassic Park, podemos ver como ambos apresentam riscos e desafios significativos. Assim como os cientistas do filme criaram dinossauros sem entender completamente as consequências, estamos criando sistemas de IA cada vez mais avançados sem entender completamente como eles funcionam ou como podem afetar nossas vidas. Isso cria riscos significativos, incluindo questões éticas, de segurança e de responsabilidade. Ao examinar esses paralelos, podemos aprender com nossas histórias e tomar medidas para garantir que o desenvolvimento da IA seja conduzido de maneira responsável e ética.
O desenvolvimento da IA: Avanços e possibilidades
A IA é um campo em rápida evolução que tem visto avanços incríveis nos últimos anos. De sistemas capazes de reconhecer padrões complexos a robôs que podem aprender e se adaptar ao seu ambiente, a IA está transformando muitas áreas de nossas vidas. Mas com esses avanços vêm novos desafios e questões sobre como devemos usar essa tecnologia poderosa.
A IA está sendo desenvolvida em muitas áreas diferentes, incluindo medicina, transporte,
finanças e outras. Por exemplo, sistemas de IA estão sendo usados para ajudar médicos a diagnosticar doenças, para permitir que carros autônomos dirijam nas estradas e para ajudar investidores a tomar decisões financeiras. Esses avanços têm o potencial de melhorar nossas vidas de muitas maneiras, mas também apresentam desafios significativos.
Um dos principais desafios é garantir que os sistemas de IA sejam usados de maneira ética e justa. Isso inclui questões como transparência, responsabilidade e privacidade. Também é importante garantir que os sistemas de IA sejam seguros e confiáveis, para evitar acidentes ou erros que possam causar danos.
Esses desafios são semelhantes aos enfrentados pelos personagens do filme Jurassic Park.
Assim como os cientistas do filme criaram dinossauros sem entender completamente as
consequências, estamos criando sistemas de IA cada vez mais avançados sem entender
completamente como eles funcionam ou como podem afetar nossas vidas. No próximo
capítulo, exploraremos esses paralelos em mais detalhes.
Jurassic Park: Brincando de Deus com a vida pré-histórica
O filme Jurassic Park conta a história de cientistas que usam tecnologia avançada para
completar as sequências de DNA dos dinossauros e trazê-los de volta à vida. Embora
inicialmente pareça um sonho tornado realidade, logo fica claro que brincar de Deus com a vida pré-histórica tem consequências imprevisíveis e perigosas. A história do filme serve como um aviso sobre os perigos de criar o que não entendemos completamente.
No filme Jurassic Park, os cientistas usam tecnologia avançada para completar as sequências de DNA dos dinossauros e trazê-los de volta à vida. Inicialmente, isso parece um sonho tornado realidade, permitindo que os visitantes do parque vejam dinossauros reais pela primeira vez. No entanto, logo fica claro que brincar de Deus com a vida pré-histórica tem consequências imprevisíveis e perigosas.
Quando um funcionário desonesto desativa os sistemas de segurança do parque, os
dinossauros escapam e começam a caçar os visitantes. Isso leva a uma luta pela sobrevivência, enquanto os personagens tentam escapar do parque e evitar serem mortos pelos dinossauros.
A história do filme serve como um aviso sobre os perigos de criar o que não entendemos
completamente.
Esses perigos são semelhantes aos enfrentados pelo desenvolvimento da IA. Assim como os cientistas do filme criaram dinossauros sem entender completamente as consequências, estamos criando sistemas de IA cada vez mais avançados sem entender completamente como eles funcionam ou como podem afetar nossas vidas. No próximo capítulo, exploraremos esses paralelos em mais detalhes.
Paralelos perigosos: Os riscos de criar o que não entendemos
Assim como os cientistas do filme Jurassic Park criaram dinossauros sem entender completamente as consequências, estamos criando sistemas de IA cada vez mais avançados sem entender completamente como eles funcionam ou como podem afetar nossas vidas. Isso cria riscos significativos, incluindo questões éticas, de segurança e de responsabilidade. Neste capítulo, exploramos esses riscos e discutimos como podemos mitigá-los.
Um dos principais paralelos entre o filme Jurassic Park e o desenvolvimento atual da IA é que ambos envolvem a criação de algo que não entendemos completamente. No filme, os
cientistas não sabiam como os dinossauros se comportariam em um ambiente moderno, nem como eles interagiriam com outras espécies ou com os humanos. Da mesma forma, no desenvolvimento da IA, muitas vezes não sabemos como os sistemas de IA funcionam
internamente, nem como eles podem afetar outras áreas de nossas vidas.
Isso cria riscos significativos, pois podemos estar criando sistemas que podem ter
consequências imprevisíveis e perigosas. Por exemplo, um sistema de IA pode ser usado para fins maliciosos, como ataques cibernéticos, manipulação de informações ou vigilância invasiva.
Ou um sistema de IA pode ter falhas ou erros que podem causar danos ou prejuízos a pessoas ou propriedades. Ou ainda, um sistema de IA pode se tornar autônomo ou superinteligente e escapar do nosso controle ou influência.
Portanto, é essencial que sejamos cautelosos e conscientes ao criar sistemas de IA, e que busquemos entender melhor como eles funcionam e como podem afetar nossas vidas.
Também é importante que estabeleçamos normas e regulamentos para garantir que o uso da IA seja seguro e ético. No entanto, isso não é uma tarefa fácil, pois envolve muitas questões complexas e desafiadoras. No próximo capítulo, discutiremos algumas dessas questões e possíveis soluções para enfrentá-las.
Desafios éticos: Responsabilidade e consequências
O desenvolvimento da IA levanta muitas questões éticas sobre responsabilidade e consequências. Quem é responsável quando um sistema de IA causa danos ou toma decisões prejudiciais? Como podemos garantir que os sistemas de IA sejam usados de maneira ética e justa? Neste capítulo, discutimos essas questões e exploramos possíveis soluções para garantir que o desenvolvimento da IA seja conduzido de maneira responsável.
Desde a forte divulgação que as ferramentas tecnológicas auxiliadas pela Inteligência Artificial – IA, têm ganho com o desenvolvimento de “assistentes virtuais inteligentes”1
, me preocupa o fato de que não temos responsabilidade alguma com nossa coparticipação nesse desenvolvimento.
Embora já tenha usado diversas dessas ferramentas, demorei para encontrar alguma reflexão mais crítica sobre essa nossa interação humano – IA, que geralmente traz somente exemplos do treinamento realizado por nós sobre as diversas plataformas digitais. Então me deparei com o artigo: “Robôs devem ter direitos? Confucionismo tem alternativa melhor” dos pesquisadores Tae Wan Kim e Alan Strudler, da Universidade Carnegie Mellon, nos EUA. Eles nos trazem uma discussão sobre Direitos dos robôs, pois à medida que os robôs assumem mais papéis no mundo, muitos aspectos do status moral e legal dos robôs devem ser explorados por filósofos e especialistas em direito. Alguns deles defendem que os robôs devem ter direitos à medida que se tornam mais relevantes para a sociedade. Porém, uma nova análise, que revisou todas as pesquisas anteriores, concluiu que dar direitos aos robôs é uma péssima ideia, e curiosamente, os especialistas sugerem que o confucionismo pode oferecer uma alternativa mais sensata para o problema.
“As pessoas estão preocupadas com os riscos de conceder direitos aos robôs”, observa Tae Kim, da Universidade Carnegie Mellon, nos EUA. “Conceder direitos não é a única maneira de abordar o status moral dos robôs: Imaginar os robôs como portadores de ritos – não como portadores de direitos – poderia funcionar melhor”. (SIT, 2023).
O que são os “Ritos” no Confucionismo O confucionismo, um antigo sistema de crença chinês, concentra-se no valor social de alcançar a harmonia. Os ritos no confucionismo são as formas de comportamento adequado que os indivíduos devem seguir para viver em harmonia com a sociedade, a natureza e o céu. São ações cotidianas que expressam o respeito, a cortesia, a justiça e a benevolência. Os ritos mais importantes no confucionismo são os relacionados à família, como o casamento e os funerais, pois eles fortalecem os laços de parentesco e a reverência aos ancestrais. Nesse modo de ver o
mundo, os indivíduos tornam-se distintamente humanos por sua capacidade de conceber
interesses não puramente em termos de auto interesse pessoal, mas em termos que incluem um eu relacional e comunitário.
Na visão confucionista, diferente de um ritual no sentido tradicional, de uma cerimônia em local e momento definidos, um rito é um modo de comportamento que se deve seguir em tempo integral. Por exemplo, “uma bela e graciosa interação coordenada com os outros de acordo com formas convencionalmente estabelecidas que expressam respeito mútuo”. (SIT, 2023).
Os pesquisadores citam o caso de um filme muito divulgado, em que técnicos da empresa Boston Dynamics empurram e chutam um robô humanoide para testar sua firmeza. “Se ele for sua propriedade e chutá-lo não prejudicar ninguém nem infringir os direitos de ninguém, não há problema em chutá-lo, embora isso seja uma coisa estúpida de se fazer,” escrevem eles. É estúpido porque infringe o rito de como dois seres devem se tratar.
1 Esta definição me foi passada pelo assistente BING, da Microsoft, no caso, ele por ele mesmo. Kim e seu colega Alan Strudler sugerem que a alternativa confucionista de estabelecer ritos para a IA é mais apropriado do que lhes dar direitos, porque o conceito de direitos é muitas vezes contraditório e competitivo, a ponto de tornar-se preocupante o potencial de conflito entre humanos e robôs. “Atribuir obrigações de função aos robôs incentiva o trabalho em equipe, o que desencadeia um entendimento de que o cumprimento dessas obrigações deve ser feito de forma harmoniosa,” explica Kim.
A IA imita a inteligência humana, portanto, para que os robôs se desenvolvam como portadores de ritos, eles devem ser alimentados por um tipo de IA que possa imitar a capacidade humana de reconhecer e executar atividades em equipe – e uma máquina pode aprender essa habilidade de várias formas. (SIT, 2023).
Ambos os pesquisadores reconhecem que a base da discussão pode ser questionada, no caso porque os robôs devem ser tratados com respeito, e eles nos apontam a resposta: “Na medida em que fazemos robôs à nossa imagem, se não os tratamos bem, como entidades capazes de participar de ritos, nos degradamos”. Eles acrescentam que diversas entidades não-naturais – como as empresas – já são consideradas pessoas – pessoas jurídicas – tendo inclusive alguns direitos constitucionais.
Além disso, os humanos não são a única espécie com status moral e legal; na maioria das
sociedades desenvolvidas, considerações morais e legais restringem ou colocam regras para o uso de animais para experimentos de laboratório. Logo, respeitar os robôs e cobrar respeito deles parece ser o melhor caminho para uma sociedade harmoniosa e que sabe conviver com a tecnologia que ela própria criou.
Conclusão: Aprendendo com nossas histórias
Neste ebook, mostramos como o filme Jurassic Park pode servir como uma metáfora para o desenvolvimento atual da IA. Ambos envolvem a criação de algo que não entendemos completamente, e que pode ter consequências imprevisíveis e perigosas. Também vimos como ambos levantam questões éticas sobre responsabilidade e consequências, e como podemos buscar soluções para garantir que o uso da IA seja seguro e justo.
Esperamos que este ebook tenha sido informativo e interessante, e que tenha estimulado sua reflexão sobre o papel da IA em nossa sociedade. Acreditamos que a IA é uma tecnologia poderosa e promissora, que pode trazer muitos benefícios para a humanidade. Mas também reconhecemos que a IA é uma tecnologia desafiadora e complexa, que requer cautela e consciência. Por isso, convidamos você a continuar aprendendo e se informando sobre a IA, e a participar do debate sobre como devemos usá-la para criar um futuro melhor para todos.
Referências:
CRICHTON, M. Jurassic Park. New York: Alfred A. Knopf, 1990.
JURASSIC PARK (filme). In: WIKIPÉDIA: a enciclopédia livre. Disponível em:
https://en.wikipedia.org/wiki/Jurassic_Park_%28film%29. Acesso em: 29 out. 2021.
JURASSIC PARK. Direção: Steven Spielberg. [S.l.]: Universal Pictures, 1993. 1 DVD (127 min).
SIT. SITE INOVAÇÃO TECNOLÓGICA. Robôs devem ter direitos? Confucionismo tem alternativa melhor. 26/05/2023. Online. Disponível em www.inovacaotecnologica.com.br/noticias/noticia.php?artigo=robos-devem-ter-direitos confucionismo-tem-alternativa-melhor Capturado em 31/05/2023.
Assista no YouTube:
Parte 01 de 03: Jurassic Park Criando Monstros Modernos.
Parte 02 de 03: Jurassic Park Criando Monstros Modernos.
Parte 03 de 03: Jurassic Park Criando Monstros Modernos.
Adquira o livro do Professor Luciano Dornelles em formato e-book, clicando AQUI!
Assista no youtube:
Parte 01 de 03: Jurassic Park Criando Monstros Modernos.
Parte 02 de 03: Jurassic Park Criando Monstros Modernos.