Dr. Geoffrey Hinton, conhecido como o “padrinho da inteligência artificial”, deixou seu cargo no Google, soando o alarme sobre os riscos da IA. Em uma entrevista ao New York Times, ele expressou arrependimentos sobre seu trabalho, alertando que a tecnologia pode inundar a internet com desinformação. Hinton, um pioneiro em redes neurais, falou à BBC sobre as diferenças entre inteligência biológica e digital, destacando a rápida evolução desses sistemas. Ele adverte que, embora atualmente a IA não seja mais inteligente que os humanos, isso pode mudar em breve. A preocupação ressoa no meio acadêmico, como destacou Junaid Mubeen, que enfatiza os perigos potenciais quando a IA é mal utilizada.
| Audio | |
|---|---|
Normal | Slow |
| English Transcript | Tradução |
| The man widely seen as the Godfather of Artificial Intelligence has quit his job at Google, warning of the dangers of AI. | O homem amplamente visto como o Padrinho da Inteligência Artificial deixou seu emprego no Google, alertando sobre os perigos da IA. |
| Dr. Geoffrey Hinton's pioneering research on deep learning and neural networks has paved the way for current AI systems like ChatGPT. | A pesquisa pioneira do Dr. Geoffrey Hinton sobre aprendizagem profunda e redes neurais abriu caminho para sistemas de IA atuais como o ChatGPT. |
| But in a lengthy interview with The New York Times, Dr. Hinton said he now regretted his work and is worried that AI technology will flood the internet with misinformation. | Mas, em uma longa entrevista ao The New York Times, Dr. Hinton disse que agora lamenta seu trabalho e está preocupado que a tecnologia de IA inunde a internet com desinformação. |
| Google responded in a statement saying, We remain committed to a responsible approach to AI. | O Google respondeu em um comunicado dizendo: Continuamos comprometidos com uma abordagem responsável para a IA. |
| Dr. Hinton has been telling the BBC how these systems can know so much. | Dr. Hinton tem explicado à BBC como esses sistemas podem saber tanto. |
| The kind of intelligence we're developing is very different from the intelligence we have. | O tipo de inteligência que estamos desenvolvendo é muito diferente da inteligência que temos. |
| We're biological systems, and these are digital systems, and the big difference is that with digital systems, you have many copies of the same set of weights, the same model of the world, and all these copies can learn separately but share their knowledge instantly. | Somos sistemas biológicos, e esses são sistemas digitais, e a grande diferença é que, com sistemas digitais, você tem muitas cópias do mesmo conjunto de pesos, o mesmo modelo do mundo, e todas essas cópias podem aprender separadamente, mas compartilhar seu conhecimento instantaneamente. |
| So it's as if you had 10,000 people, and whenever one person learns something, everybody automatically knew it. | Então é como se você tivesse 10.000 pessoas e, sempre que uma pessoa aprende algo, todos automaticamente saibam. |
| And that's how these chats can know so much more than any one person. | E é assim que esses chats podem saber muito mais do que qualquer pessoa. |
| Well, Dr. Hinton also told the BBC: The rate of progress is worrying. | Bem, o Dr. Hinton também disse à BBC: A taxa de progresso é preocupante. |
| Right now, what we're seeing is, things like GPT-4 eclipsing a person in the amount of general knowledge it has, and eclipsing by a long way, in terms of reasoning. | No momento, o que estamos vendo é, coisas como o GPT-4 superando uma pessoa na quantidade de conhecimento geral que possui, e superando por uma longa margem, em termos de raciocínio. |
| It's not as good, but it does already do simple reasoning, and given the rate of progress, we expect things to get better quite fast. | Não é tão bom, mas já faz raciocínios simples e, dada a taxa de progresso, esperamos que as coisas melhorem rapidamente. |
| So we need to worry about that. | Então, precisamos nos preocupar com isso. |
| Right now, they're not more intelligent than us, as far as I can tell, but I think they soon may be. | No momento, eles não são mais inteligentes que nós, pelo que posso dizer, mas acho que em breve poderão ser. |
| Well, earlier I spoke to Junaid Mubeen, author of Mathematical Intelligence. | Bem, mais cedo, falei com Junaid Mubeen, autor de "Inteligência Matemática." |
| I asked what he makes of the AI warning. | Perguntei o que ele pensa sobre o alerta da IA. |
| I think this one is to be taken seriously because of where it's coming from. | Acho que este deve ser levado a sério por causa de quem vem. |
| I wouldn't take Elon Musk's own warnings particularly seriously because he's not an AI expert. | Eu não levaria particularmente a sério os próprios alertas de Elon Musk, porque ele não é um especialista em IA. |
| Geoffrey Hinton, on the other hand, is one of the pioneers of artificial intelligence, and he's also been very specific in laying out a hierarchy of risks and concerns. | Geoffrey Hinton, por outro lado, é um dos pioneiros da inteligência artificial e também tem sido muito específico ao expor uma hierarquia de riscos e preocupações. |
| And so he mentions, uh, the threats that AI poses to, uh, the workforce and the spread of misinformation, but the concerns that he's raised around existential risk I think are to be taken seriously. | E assim ele menciona, as ameaças que a IA representa para, a força de trabalho e a disseminação de desinformação, mas as preocupações que ele levantou em torno do risco existencial, acho que devem ser levadas a sério. |
| And I think it's important to recognize that those risks are not premised on AI becoming conscious or gaining sentience. | E acho importante reconhecer que esses riscos não se baseiam na IA se tornando consciente ou ganhando senciência. |
| We're not talking about a Terminator doomsday scenario, but it's the idea that these technologies are able to amass information and process information so effectively that if you put them in the hands of bad human actors, they can wreak all kinds of havoc, and I think that is something we all need to pay attention to. | Não estamos falando sobre um cenário de juízo final do Exterminador do Futuro, mas é a ideia de que essas tecnologias são capazes de acumular informações e processá-las de forma tão eficaz que, se você as colocar nas mãos de atores humanos ruins, eles podem causar todo tipo de destruição, e acho que isso é algo que todos precisamos prestar atenção. |
| So tell us a bit more about that, because he referred, didn't he, to bad actors who would use AI for bad things. | Então, conte-nos um pouco mais sobre isso, porque ele se referiu, não foi, a atores ruins que usariam a IA para coisas ruins. |
| So tell us a bit more about what you think he means by that. | Então, diga-nos um pouco mais sobre o que você acha que ele quer dizer com isso. |
| So I think one of the challenges with these chatbots is we don't fundamentally understand how they work. | Acho que um dos desafios com esses chatbots é que não entendemos fundamentalmente como eles funcionam. |
| We know that they absorb large amounts of information and then you can input a prompt, and it will give you an output; it might write an essay for you, it might generate an image or a video. | Sabemos que eles absorvem grandes quantidades de informação e, então, você pode inserir um prompt, e ele lhe dará uma saída; pode escrever um ensaio para você, pode gerar uma imagem ou um vídeo. |
| And so, the challenge is that as these systems become more complex, we can issue them with certain tasks. | E, assim, o desafio é que, à medida que esses sistemas se tornam mais complexos, podemos atribuir a eles certas tarefas. |
| So I might, ask a chatbot to go online and find the cheapest train ticket, uh, for me, and I might give it access to my bank account and it will, uh, be able to carry out that task. | Então, posso, pedir a um chatbot para ir online e encontrar o bilhete de trem mais barato, para mim, e posso dar-lhe acesso à minha conta bancária e ele, será capaz de realizar essa tarefa. |
| And the stakes there seem fairly low, but you can imagine in a different context where the stakes are a lot higher. | E os riscos aí parecem bastante baixos, mas você pode imaginar em um contexto diferente, onde os riscos são muito maiores. |
| These systems might be weaponized to carry out a whole range of tasks, and they will execute those tasks in ways that we don't fully understand. | Esses sistemas podem ser armados para realizar toda uma gama de tarefas, e eles executarão essas tarefas de maneiras que não entendemos completamente. |
| And I think the concern that people like Geoffrey Hinton have is that there could be unintended consequences. | E acho que a preocupação que pessoas como Geoffrey Hinton têm é que possam haver consequências não intencionais. |
| These systems behave in ways that are very different from humans, so there's no real account for how they will go about achieving their objectives, and especially if those objectives are rooted in some kind of malicious intent. | Esses sistemas se comportam de maneiras muito diferentes dos humanos, então não há uma verdadeira noção de como irão alcançar seus objetivos, e especialmente se esses objetivos estão enraizados em algum tipo de intenção maliciosa. |
| So if an authoritarian leader, for example, says through a chatbot system, 'You know, help me to reassert my grip on a population,' there's no real knowing how a very complex computer-based system would go about achieving that, what kinds of manipulations it might imply. | Então, se um líder autoritário, por exemplo, disser através de um sistema de chatbot: 'Você sabe, ajude-me a reafirmar meu controle sobre uma população,' não há como saber como um sistema baseado em computador muito complexo fará para alcançar isso, que tipo de manipulações isso pode implicar. |
| And so the lack of transparency is something that we really need to be concerned about. | E assim a falta de transparência é algo com que realmente precisamos nos preocupar. |
| A couple of months ago, more than a thousand tech leaders, called for a six-month moratorium on the development of new AI systems because of what they said was the tech posing a profound risk to society and humanity. | Há alguns meses, mais de mil líderes de tecnologia, pediram uma moratória de seis meses no desenvolvimento de novos sistemas de IA por causa do que disseram ser a tecnologia representando um risco profundo para a sociedade e a humanidade. |
| I mean, is it too late? | Quero dizer, já é tarde demais? |
| It may well be. | Pode muito bem ser. |
| I think we have to adopt some spirit of optimism and recognize that we do have a huge degree of human intelligence as well, and now more than ever we need to summon that. | Acho que temos que adotar algum espírito de otimismo e reconhecer que também possuímos um grande grau de inteligência humana, e agora, mais do que nunca, precisamos invocar isso. |
| And one thing that Geoffrey Hinton does emphasize is that digital intelligence, the kind espoused by these chatbots, is very different from human intelligence, and that may present an opportunity for us to tap into our own human strengths and understand how we can, uh, behave and cooperate with one another in ways that might allow us to regulate these technologies and reign them in. | E uma coisa que Geoffrey Hinton enfatiza é que a inteligência digital, o tipo defendido por esses chatbots, é muito diferente da inteligência humana, e isso pode apresentar uma oportunidade para que possamos aproveitar nossas próprias forças humanas e entender como podemos, nos comportar e cooperar uns com os outros de maneiras que possam nos permitir regular essas tecnologias e contê-las. |
| But I will say, Geoffrey Hinton has been working on these technologies for several decades. | Mas eu digo, Geoffrey Hinton tem trabalhado nessas tecnologias há várias décadas. |
| There are many within the space that have been issuing these warnings for several years, so his own warning does seem to be coming quite late in the day, and there is a sense that maybe the genie is out of the bottle now, and there's no real accounting for what happens next. | Há muitos dentro do espaço que têm emitido esses alertas há vários anos, então seu próprio aviso parece estar chegando um tanto tarde, e há uma sensação de que talvez o gênio já esteja fora da garrafa agora, e não há como realmente prever o que acontece a seguir. |
Contagem de palavras
A tabela abaixo exibe as palavras encontradas neste vídeo, bem como o número de vezes em que aparecem.
Veja também: Para que serve esta tabela?
| Freq. | Palavra | Freq. | Palavra | Freq. | Palavra |
|---|---|---|---|---|---|
| 40 | the | 37 | and | 32 | of |
| 29 | that | 26 | is | 25 | to |
| 24 | a | 18 | we | 16 | it |
| 16 | I | 15 | so | 13 | these |
| 13 | in | 13 | are | 11 | for |
| 10 | ai | 9 | you | 9 | think |
| 9 | systems | 9 | not | 9 | he |
| 9 | can | 9 | be | 8 | they |
| 8 | intelligence | 8 | hinton | 8 | has |
| 8 | but | 7 | there | 7 | one |
| 7 | more | 7 | might | 7 | as |
| 7 | about | 6 | with | 6 | will |
| 6 | what | 6 | on | 6 | how |
| 6 | have | 6 | an | 5 | very |
| 5 | us | 5 | uh | 5 | now |
| 5 | geoffrey | 4 | well | 4 | than |
| 4 | out | 4 | need | 4 | know |
| 4 | if | 4 | human | 4 | from |
| 4 | dr | 4 | do | 4 | different |
| 4 | been | 4 | because | 3 | would |
| 3 | ways | 3 | warning | 3 | understand |
| 3 | those | 3 | things | 3 | them |
| 3 | tell | 3 | technologies | 3 | tasks |
| 3 | something | 3 | seriously | 3 | real |
| 3 | person | 3 | own | 3 | no |
| 3 | may | 3 | like | 3 | kind |
| 3 | information | 3 | his | 3 | go |
| 3 | does | 3 | digital | 3 | by |
| 3 | bad | 3 | all | 2 | work |
| 2 | where | 2 | way | 2 | warnings |
| 2 | their | 2 | tech | 2 | taken |
| 2 | system | 2 | stakes | 2 | some |
| 2 | several | 2 | seem | 2 | same |
| 2 | said | 2 | s | 2 | risks |
| 2 | risk | 2 | right | 2 | recognize |
| 2 | reasoning | 2 | rate | 2 | quite |
| 2 | progress | 2 | people | 2 | or |
| 2 | objectives | 2 | new | 2 | my |
| 2 | much | 2 | misinformation | 2 | me |
| 2 | many | 2 | late | 2 | knowledge |
| 2 | kinds | 2 | 2 | give | |
| 2 | eclipsing | 2 | copies | 2 | concerns |
| 2 | complex | 2 | coming | 2 | chatbots |
| 2 | chatbot | 2 | carry | 2 | bit |
| 2 | behave | 2 | bbc | 2 | artificial |
| 2 | also | 2 | actors | 2 | achieving |
| 2 | account | 2 | able | 1 | york |
| 1 | years | 1 | write | 1 | wreak |
| 1 | worrying | 1 | worry | 1 | worried |
| 1 | world | 1 | working | 1 | workforce |
| 1 | within | 1 | widely | 1 | whole |
| 1 | who | 1 | whenever | 1 | weights |
| 1 | weaponized | 1 | was | 1 | video |
| 1 | use | 1 | unintended | 1 | transparency |
| 1 | train | 1 | too | 1 | told |
| 1 | times | 1 | ticket | 1 | through |
| 1 | threats | 1 | thousand | 1 | this |
| 1 | thing | 1 | then | 1 | terms |
| 1 | terminator | 1 | telling | 1 | technology |
| 1 | task | 1 | tap | 1 | talking |
| 1 | take | 1 | summon | 1 | strengths |
| 1 | statement | 1 | spread | 1 | spoke |
| 1 | spirit | 1 | specific | 1 | space |
| 1 | soon | 1 | society | 1 | six |
| 1 | simple | 1 | share | 1 | set |
| 1 | separately | 1 | sentience | 1 | sense |
| 1 | seen | 1 | seeing | 1 | scenario |
| 1 | says | 1 | saying | 1 | say |
| 1 | rooted | 1 | responsible | 1 | responded |
| 1 | research | 1 | remain | 1 | reign |
| 1 | regulate | 1 | regretted | 1 | referred |
| 1 | reassert | 1 | really | 1 | range |
| 1 | raised | 1 | quit | 1 | put |
| 1 | prompt | 1 | profound | 1 | process |
| 1 | present | 1 | premised | 1 | posing |
| 1 | poses | 1 | population | 1 | pioneers |
| 1 | pioneering | 1 | pay | 1 | paved |
| 1 | particularly | 1 | output | 1 | our |
| 1 | other | 1 | optimism | 1 | opportunity |
| 1 | online | 1 | next | 1 | neural |
| 1 | networks | 1 | musk | 1 | mubeen |
| 1 | moratorium | 1 | months | 1 | month |
| 1 | model | 1 | mentions | 1 | means |
| 1 | mean | 1 | maybe | 1 | mathematical |
| 1 | manipulations | 1 | man | 1 | malicious |
| 1 | makes | 1 | low | 1 | lot |
| 1 | long | 1 | lengthy | 1 | learns |
| 1 | learning | 1 | learn | 1 | leaders |
| 1 | leader | 1 | laying | 1 | large |
| 1 | lack | 1 | knowing | 1 | knew |
| 1 | junaid | 1 | job | 1 | issuing |
| 1 | issue | 1 | into | 1 | interview |
| 1 | internet | 1 | intent | 1 | intelligent |
| 1 | instantly | 1 | input | 1 | important |
| 1 | imply | 1 | imagine | 1 | image |
| 1 | idea | 1 | humans | 1 | humanity |
| 1 | huge | 1 | higher | 1 | hierarchy |
| 1 | help | 1 | havoc | 1 | happens |
| 1 | hands | 1 | hand | 1 | had |
| 1 | grip | 1 | gpt | 1 | good |
| 1 | godfather | 1 | given | 1 | get |
| 1 | genie | 1 | generate | 1 | general |
| 1 | gaining | 1 | fundamentally | 1 | fully |
| 1 | flood | 1 | find | 1 | fast |
| 1 | far | 1 | fairly | 1 | expert |
| 1 | expect | 1 | existential | 1 | execute |
| 1 | example | 1 | everybody | 1 | ever |
| 1 | essay | 1 | espoused | 1 | especially |
| 1 | emphasize | 1 | elon | 1 | effectively |
| 1 | earlier | 1 | doomsday | 1 | difference |
| 1 | did | 1 | development | 1 | developing |
| 1 | degree | 1 | deep | 1 | decades |
| 1 | day | 1 | dangers | 1 | current |
| 1 | couple | 1 | could | 1 | cooperate |
| 1 | context | 1 | consequences | 1 | conscious |
| 1 | concerned | 1 | concern | 1 | computer |
| 1 | committed | 1 | cheapest | 1 | chats |
| 1 | chatgpt | 1 | challenges | 1 | challenge |
| 1 | certain | 1 | called | 1 | bottle |
| 1 | biological | 1 | big | 1 | better |
| 1 | becoming | 1 | become | 1 | based |
| 1 | bank | 1 | automatically | 1 | authoritarian |
| 1 | author | 1 | attention | 1 | at |
| 1 | asked | 1 | ask | 1 | around |
| 1 | approach | 1 | any | 1 | another |
| 1 | amounts | 1 | amount | 1 | amass |
| 1 | already | 1 | allow | 1 | ago |
| 1 | adopt | 1 | accounting | 1 | access |
| 1 | absorb |
