Início » Ciência » Stephen Hawking acredita que a inteligência artificial pode acabar com a humanidade

Stephen Hawking acredita que a inteligência artificial pode acabar com a humanidade

Avatar Por

Stephen Hawking é um dos cientistas mais brilhantes vivos atualmente, mas não é dos mais otimistas no que diz respeito ao futuro da humanidade. Em seu último artigo, publicado pelo The Independent em parceria com outros pesquisadores da área, o físico traz um questionamento sobre uma potencial ameaça "interna" (quer dizer, que não vai vir de outro planeta para nos dominar e drenar nossos recursos) que nem sempre é levada muito a sério: a inteligência artificial.

O artigo foi motivado pelo filme Transcendence, que foi lançado na semana passada e trata do assunto. Mas, segundo a publicação, o longa o faz de modo a fazer parecer que a inteligência artificial é coisa do gênero de ficção científica, quando deveria estar sendo levada muito mais a sério. "O sucesso em criar inteligência artificial seria o maior evento na história da humanidade. Infelizmente, também pode ser o último, a menos que aprendamos a evitar seus riscos", discorre.

640_stephen-hawking-640

Os frutos de inteligência artificial que temos até agora são relativamente inofensivos, como um computador que vence humanos no game show Jeopardy, assistentes pessoais no smartphone e carros que se dirigem sozinhos. Mas já são dados passos não tão seguros, como os na direção militar, com armas que selecionam e eliminam inimigos de maneira autônoma - iniciativa que inclusive já foi freada pela ONU.

Ainda assim, com o desenvolvimento da inteligência artificial, o físico defende que não há como prever como ela poderá se organizar. "Dá para imaginar essa tecnologia ficando mais inteligente que mercados financeiros, inventando mais que pesquisadores humanos, manipulando líderes e criando armas que sequer entendemos", explica o artigo. "Enquanto o impacto da inteligência artificial a curto prazo depende de quem a controla, a longo prazo dependerá se ela poderá ser controlada".

O alerta é bem pessimista, mas dá para entender que o ponto é de que, mais que desenvolver a inteligência artificial pelos seus motivos "do bem", é preciso saber lidar com seus perigos. E, atualmente, isso é muito negligenciado; o físico afirma que somente quatro instituições fazem esse tipo de pesquisa hoje.

Talvez soe alarmista e até óbvio demais, mas, quando uma das maiores autoridades em ciência do mundo resolve tocar no assunto, é bom prestar atenção. E, ainda que você não trabalhe diretamente para desenvolver a tecnologia, fica a provocação no fim do artigo: "todos nós deveríamos nos perguntar o que podemos fazer agora para aumentar as chances de potencializar os benefícios e evitar os riscos".

O artigo pode ser lido, na íntegra e em inglês, aqui.

Comentários

Envie uma pergunta

Os mais notáveis

Comentários com a maior pontuação

Kilder Souza

Exatamente o que eu penso. Sem falar que a tendência do ser humano
será involuir. Ele pode chegar ao ponto de depender de I A para tudo.
Vide o filme Wall-e (animação de Walt Disney) onde as pessoas se
tornaram obesas e meio idiotas perdendo a habilidade até mesmo de andar.

Também,
há muitas pessoas no mundo que tem profissões que serão substituídas
por robôs e, simplesmente entrarão em depressão. Não é tão simples dizer
que basta ensinar uma nova ocupação a esta pessoa. Há muitas pessoas
nestas profissões que fazem seu trabalho porque são apaixonadas e não
trocariam isto por nada no mundo. Não adianta você pegar, por exemplo,
um médico que ama seu trabalho e coloca-lo em uma sala operando uma tela
sensível ao toque, ou um piloto de avião e coloca-lo em uma sala
pilotando ou apenas supervisionando um
drone. O nível de depressão vai aumentar assustadoramente e a humanidade não vai saber o que fazer.

Sem
falar em perder as habilidades básicas. O homem vai perder a confiança
no homem e confiar só nos robôs pra tudo. A honra, a coragem para
enfrentar perigos será uma coisa rara (e já é bem assim hoje em dia).
Capacidades simples como plantar uma arvore serão perdidas com medo de
infecção por contato com a terra, por medo de insetos etc. O homem vai
perder a admiração pelo homem e admirará só as máquinas.

Minha esperança é que parte da humanidade que não quer este mundo
automatizado,
se organize em uma sociedade paralela sem a inteligência artificial.
Mas, mesmo assim, haverá o risco de a sociedade automatizada tentar
desfazer, ou destruir esta sociedade paralela.

Poderá chegar um
ponto em que, só os milionários e donos de fábricas de robôs (que também
serão totalmente automatizadas) estejam, a princípio, realmente
seguros. E para poupar os recursos da terra passem a perseguir e
destruir a grande parte da humanidade que não será mais necessária. Sem
falar que, a maioria da humanidade estará tão mal acostumada com o
conforto e segurança proporcionado pela I A, que se tornará um alvo
fácil para ser destruída. Pra piorar, pode ser que os robôs, já mais
inteligentes que o homem se cansem de servir a estes milionários e os
destruam também.

Eu penso muito nisto e poderia discorrer sobre
este assunto em um grande texto que daria, talvez um pequeno livro só
com o que eu acho disso. Mas vou parar por aqui.

Pra resumir, eu
não consigo ver com o mesmo entusiasmo que a maioria das pessoas veem
esta evolução da inteligência artificial. As pessoas estão batendo
palmas para todo conforto e segurança que as IA estão nos proporcionando
a cada dia. Mas pra mim, a humanidade está entrando em uma grande
armadilha.As vezes eu me sinto como o personagem de Will Smith no
filme “Eu robô”. Ele se sentia sozinho porque não gostava de robôs e
não confiava neles. Em um momento do filme ele diz que “às vezes, se
sente a única pessoa sensata no planeta”. Podem me chamar de louco ou de
pessimista. Mas eu me sinto assim também. .

Kilder Souza

Exatamente o que eu penso. Sem falar que a tendência do ser humano será involuir. Ele pode chegar ao ponto de depender de I A para tudo. Vide o filme Wall-e (animação de Walt Disney) onde as pessoas se tornaram obesas e meio idiotas perdendo a habilidade até mesmo de andar.

Também, há muitas pessoas no mundo que tem profissões que serão substituídas por robôs e, simplesmente entrarão em depressão. Não é tão simples dizer que basta ensinar uma nova ocupação a esta pessoa. Há muitas pessoas nestas profissões que fazem seu trabalho porque são apaixonadas e não trocariam isto por nada no mundo. Não adianta você pegar, por exemplo, um médico que ama seu trabalho e coloca-lo em uma sala operando uma tela sensível ao toque, ou um piloto de avião e coloca-lo em uma sala pilotando ou apenas supervisionando um
drone. O nível de depressão vai aumentar assustadoramente e a humanidade não vai saber o que fazer.

Sem falar em perder as habilidades básicas. O homem vai perder a confiança no homem e confiar só nos robôs pra tudo. A honra, a coragem para enfrentar perigos será uma coisa rara (e já é bem assim hoje em dia). Capacidades simples como plantar uma arvore serão perdidas com medo de infecção por contato com a terra, por medo de insetos etc. O homem vai perder a admiração pelo homem e admirará só as máquinas.

Minha esperança é que parte da humanidade que não quer este mundo
automatizado, se organize em uma sociedade paralela sem a inteligência artificial. Mas, mesmo assim, haverá o risco de a sociedade automatizada tentar desfazer, ou destruir esta sociedade paralela.

Poderá chegar um ponto em que, só os milionários e donos de fábricas de robôs (que também serão totalmente automatizadas) estejam, a princípio, realmente seguros. E para poupar os recursos da terra passem a perseguir e destruir a grande parte da humanidade que não será mais necessária. Sem falar que, a maioria da humanidade estará tão mal acostumada com o conforto e segurança proporcionado pela I A, que se tornará um alvo fácil para ser destruída. Pra piorar, pode ser que os robôs, já mais inteligentes que o homem se cansem de servir a estes milionários e os destruam também.

Eu penso muito nisto e poderia discorrer sobre este assunto em um grande texto que daria, talvez um pequeno livro só com o que eu acho disso. Mas vou parar por aqui.

Pra resumir, eu não consigo ver com o mesmo entusiasmo que a maioria das pessoas veem esta evolução da inteligência artificial. As pessoas estão batendo palmas para todo conforto e segurança que as IA estão nos proporcionando a cada dia. Mas pra mim, a humanidade está entrando em uma grande armadilha.

As vezes eu me sinto como o personagem de Will Smith no filme “Eu robô”. Ele se sentia sozinho porque não gostava de robôs e não confiava neles. Em um momento do filme ele diz que “às vezes, se sente a única pessoa sensata no planeta”. Podem me chamar de louco ou de pessimista. Mas eu me sinto assim também. .

Kilder Souza

Exatamente o que eu penso. Sem falar que a tendência do ser humano será involuir. Ele pode chegar ao ponto de depender de I A para tudo. Vide o filme Wall-e (animação de Walt Disney) onde as pessoas se tornaram obesas e meio idiotas perdendo a habilidade até mesmo de andar.

Também, há muitas pessoas no mundo que tem profissões que serão substituídas por robôs e, simplesmente entrarão em depressão. Não é tão simples dizer que basta ensinar uma nova ocupação a esta pessoa. Há muitas pessoas nestas profissões que fazem seu trabalho porque são apaixonadas e não trocariam isto por nada no mundo. Não adianta você pegar, por exemplo, um médico que ama seu trabalho e coloca-lo em uma sala operando uma tela sensível ao toque, ou um piloto de avião e coloca-lo em uma sala pilotando ou apenas supervisionando um
drone. O nível de depressão vai aumentar assustadoramente e a humanidade não vai saber o que fazer.

Sem falar em perder as habilidades básicas. O homem vai perder a confiança no homem e confiar só nos robôs pra tudo. A honra, a coragem para enfrentar perigos será uma coisa rara (e já é bem assim hoje em dia). Capacidades simples como plantar uma arvore serão perdidas com medo de infecção por contato com a terra, por medo de insetos etc. O homem vai perder a admiração pelo homem e admirará só as máquinas.

Minha esperança é que parte da humanidade que não quer este mundo
automatizado, se organize em uma sociedade paralela sem a inteligência artificial.

Kilder Souza

Exatamente o que eu penso. Sem falar que a tendência do ser humano será involuir. Ele pode chegar ao ponto de depender de I A para tudo. Vide o filme Wall-e (animação de Walt Disney) onde as pessoas se tornaram obesas e meio idiotas perdendo a habilidade até mesmo de andar.

Também, há muitas pessoas no mundo que tem profissões que serão substituídas por robôs e, simplesmente entrarão em depressão. Não é tão simples dizer que basta ensinar uma nova ocupação a esta pessoa. Há muitas pessoas nestas profissões que fazem seu trabalho porque são apaixonadas e não trocariam isto por nada no mundo. Não adianta você pegar, por exemplo, um médico que ama seu trabalho e coloca-lo em uma sala operando uma tela sensível ao toque, ou um piloto de avião e coloca-lo em uma sala pilotando ou apenas supervisionando um
drone. O nível de depressão vai aumentar assustadoramente e a humanidade não vai saber o que fazer.

Sem falar em perder as habilidades básicas. O homem vai perder a confiança no homem e confiar só nos robôs pra tudo. A honra, a coragem para enfrentar perigos será uma coisa rara (e já é bem assim hoje em dia). Capacidades simples como plantar uma arvore serão perdidas com medo de infecção por contato com a terra, por medo de insetos etc. O homem vai perder a admiração pelo homem e admirará só as máquinas.

Minha esperança é que parte da humanidade que não quer este mundo
automatizado, se organize em uma sociedade paralela sem a inteligência artificial. Mas, mesmo assim, haverá o risco de a sociedade automatizada tentar desfazer, ou destruir esta sociedade paralela.

Poderá chegar um ponto em que, só os milionários e donos de fábricas de robôs (que também serão totalmente automatizadas) estejam, a princípio, realmente seguros. E para poupar os recursos da terra passem a perseguir e destruir a grande parte da humanidade que não será mais necessária. Sem falar que, a maioria da humanidade estará tão mal acostumada com o conforto e segurança proporcionado pela I A, que se tornará um alvo fácil para ser destruída. Pra piorar, pode ser que os robôs, já mais inteligentes que o homem se cansem de servir a estes milionários e os destruam também.

Eu penso muito nisto e poderia discorrer sobre este assunto em um grande texto que daria, talvez um pequeno livro só com o que eu acho disso. Mas vou parar por aqui.

Pra resumir, eu não consigo ver com o mesmo entusiasmo que a maioria das pessoas veem esta evolução da inteligência artificial. As pessoas estão batendo palmas para todo conforto e segurança que as IA estão nos proporcionando a cada dia. Mas pra mim, a humanidade está entrando em uma grande armadilha.

As vezes eu me sinto como o personagem de Will Smith no filme “Eu robô”. Ele se sentia sozinho porque não gostava de robôs e não confiava neles. Em um momento do filme ele diz que “às vezes, se sente a única pessoa sensata no planeta”. Podem me chamar de louco ou de pessimista. Mas eu me sinto assim também.

Kilder Souza

Exatamente o que eu penso. Sem falar que a tendência do ser humano será involuir. Ele pode chegar ao ponto de depender de I A para tudo. Vide o filme Wall-e (animação de Walt Disney) onde as pessoas se tornaram obesas e meio idiotas perdendo a habilidade até mesmo de andar.

Também, há muitas pessoas no mundo que tem profissões que serão substituídas por robôs e, simplesmente entrarão em depressão. Não é tão simples dizer que basta ensinar uma nova ocupação a esta pessoa. Há muitas pessoas nestas profissões que fazem seu trabalho porque são apaixonadas e não trocariam isto por nada no mundo. Não adianta você pegar, por exemplo, um médico que ama seu trabalho e coloca-lo em uma sala operando uma tela sensível ao toque, ou um piloto de avião e coloca-lo em uma sala pilotando ou apenas supervisionando um
drone. O nível de depressão vai aumentar assustadoramente e a humanidade não vai saber o que fazer.

Sem falar em perder as habilidades básicas. O homem vai perder a confiança no homem e confiar só nos robôs pra tudo. A honra, a coragem para enfrentar perigos será uma coisa rara (e já é bem assim hoje em dia). Capacidades simples como plantar uma arvore serão perdidas com medo de infecção por contato com a terra, por medo de insetos etc. O homem vai perder a admiração pelo homem e admirará só as máquinas.

Minha esperança é que parte da humanidade que não quer este mundo
automatizado, se organize em uma sociedade paralela sem a inteligência artificial. Mas, mesmo assim, haverá o risco de a sociedade automatizada tentar desfazer, ou destruir esta sociedade paralela.

Poderá chegar um ponto em que, só os milionários e donos de fábricas de robôs (que também serão totalmente automatizadas) estejam, a princípio, realmente seguros. E para poupar os recursos da terra passem a perseguir e destruir a grande parte da humanidade que não será mais necessária. Sem falar que, a maioria da humanidade estará tão mal acostumada com o conforto e segurança proporcionado pela I A, que se tornará um alvo fácil para ser destruída. Pra piorar, pode ser que os robôs, já mais inteligentes que o homem se cansem de servir a estes milionários e os destruam também.

Eu penso muito nisto e poderia discorrer sobre este assunto em um grande texto que daria, talvez um pequeno livro só com o que eu acho disso. Mas vou parar por aqui.

Pra resumir, eu não consigo ver com o mesmo entusiasmo que a maioria das pessoas veem esta evolução da inteligência artificial. As pessoas estão batendo palmas para todo conforto e segurança que as IA estão nos proporcionando a cada dia. Mas pra mim, a humanidade está entrando em uma grande armadilha.

As vezes eu me sinto como o personagem de Will Smith no filme “Eu robô”. Ele se sentia sozinho porque não gostava de robôs e não confiava neles. Em um momento do filme ele diz que “às vezes, se sente a única pessoa sensata no planeta”. Podem me chamar de louco ou de pessimista. Mas eu me sinto assim também.

André Augusto Stürmer Pilz

Ele falou muita coisa certa, Muita bosta, disse tú, sem entender do assunto. Já estudei sistemas de informação e lhe digo que um sistema neural é muito diferente do seu software comum. Os sistemas neurais são programados para coletar informações automaticamente e aprender sozinhos, não são feitos sobre um simples algoritmo de funções que exige ao usuário fornecer as informações para que ele possa exercer suas funções. Além de a inteligência artificial (sistema ou rede neural) são quase 100% eficientes, tanto em termos de decisão, operação, e gerenciamento, enquanto o ser humano, por mais bem treinado que seja, mal passa dos 90%. A realidade é a de que não há perigo de uma guerra entre humanos e maquinas, mas em um futuro próximo, a Inteligência Artificial tornará todas as funções humanas obsoletas por sua eficiência e eficácia, em outras palavras, o ser humano será uma raça terráquea inferior e obsoleta, e a I.A. dominará o mundo, ou teremos que desligar as tomadas, e viver de tecnologias antigas.

Mario Tiao

Oque vc acha não é válido
Uma merda saindo de sua boca

Mario Tiao

Nossa
Quanta merda saindo de uma boca tão pequena

Mario Tiao

Falou tudo
Tudo de bosta

Mario Tiao

Falou muita bosta para um ser humano burro

Lucas A.

Não velho, o que acontece em inteligência artificial é que você insere um conjunto de dados com informações e deixa o computador por si só decidir o que é certo ou não, em nenhum momento você programa ela pra fazer uma coisa ou outra.

Por exemplo: se você quer treinar uma rede neural para diferenciar um cão de um gato, você dá pra ela milhares de fotos com uma descrição se tem um cão ou um gato na imagem , ela por si só dentro de um milhares de análises que o ser humano não tem acesso define padrões para dizer quando há ou não certo animal. A partir disso quando você fornece uma nova imagem ela dirá se tem ou não um gato lá.

É um exemplo bem simples, agora imagina se treinamos uma rede para matar um humano suspeito de terrorismo, qual foi o padrão que a máquina usou para definir isso? como julgar se ela tomou a decisão certa? Foi baseado na vestimenta da pessoa? na aparência física? Viu! é muito difícil julgar algo assim e esse é o grande perigo.

Paula Tejando

Quanta balela. A tomada de decisad dessas máquinas dependem de programação, nunca uma maquimá cai fazer nada sem ter sido programada e alem disso ela dicalimitada a aquilo que foi programada para fazer. O perigo nao está na AI, o problema esta no humano. Vai que algum louco programe uma maquina para destruir humanos...

DeadPool
Tô vendo que o ciborgue dos jovens titãs ta pertinho de virar moda
Gian Ribeiro
Gente, o Stephen Hawking tem credibilidade pra falar de física teórica e afins. Tem especialistas nessa área com muito mais bagagem pra conjecturar sobre isso do que ele.
Wallbe Silva
Olá, Almeida! Eu gostaria de apresentar o meu artigo pessoal no qual eu registro minhas próprias percepções de caráter científico. Saiba que, ainda nem sequer podemos definir inteligência. O que sabemos a respeito desse fenômeno não material, é baseado nos rastros evidentes que a inteligência exerce na matéria. Até hoje, cogita-se que a inteligência do homem seja múltipla, tornando impossível definir especificamente o que é inteligência. Meu artigo, não apenas menciona que I.A. possa sim ser reproduzida artificialmente, como também, a própria inteligência humana seja completamente artificial. Na verdade, todo meio de intelecto é inevitavelmente artificial. O termo inteligência é uma ilusão, dessa forma, eu assumo que a inteligência, na verdade, seja apenas um atributo proveniente do consciente, a razão lógica. Por isso, eu não faço uso do termo, "inteligência" em meu artigo. Para expressá-lo, utilizo o conceito de, "auto consciência". E a eventual reprodução tecnológica do motor básico da auto consciência não necessita de muitos esforços para compreende-la e reproduzi-la na forma de programa de computador. Sendo esta tarefa, a única necessária para gerar uma máquina perfeita dotada de consciência, pois o motor simples de consciência, este, auto aprimora-se, como o próprio Halking afirma. Embora eu já tivesse a ideia de "consciência autônoma" em mente há algum tempo.
Exibir mais comentários