Um casal está pensando em ficar noivo, mas está preocupado com as estatísticas de divórcio. Acaba de ser lançado um modelo baseado em
IA que pode prever sua probabilidade de divórcio com 95% de precisão. O único problema é que o modelo não oferece nenhuma razão para seus resultados. Então, eles deveriam decidir se vão ou não se casar com base na previsão desta IA? Thomas Hofweber explora o problema
de transparência da IA.
| Audio | |
|---|---|
Normal | Slow |
| English Transcript | Tradução |
| You and your partner Alex have been in a strong, loving relationship for years, and lately you're considering getting engaged. | Você e seu parceiro Alex estão em um relacionamento forte e amoroso há anos, e ultimamente você está considerando ficar noivo. |
| Alex is enthusiastic about the idea, but you can't get over the statistics. | Alex está entusiasmado com a ideia, mas você não consegue superar as estatísticas. |
| You know a lot of marriages end in divorce, often not amicably. | Você sabe que muitos casamentos terminam em divórcio, muitas vezes de forma não amigável. |
| And over 10% of couples in their first marriage get divorced within the first five years. | E mais de 10% dos casais em seu primeiro casamento se divorciam nos primeiros cinco anos. |
| If your marriage wouldn't even last five years, you feel like tying the knot would be a mistake. | Se seu casamento não durasse nem cinco anos, você sente que dar se casar seria um erro. |
| But you live in the near future, where a brand-new company just released an AI-based model that can predict your likelihood of divorce. | Mas você vive em um futuro próximo, onde uma nova empresa acabou de lançar um modelo baseado em IA que pode prever a probabilidade de divórcio. |
| The model is trained on data sets containing individuals' social media activity, online search histories, spending habits, and history of marriage and divorce. | O modelo é treinado em conjuntos de dados contendo atividade de mídia social, históricos de pesquisa online, hábitos de gastos e histórico de casamento e divórcio dos indivíduos. |
| And using this information, the AI can predict if a couple will divorce within the first five years of marriage with 95% accuracy. | E usando essas informações, a IA pode prever se um casal se divorciará nos primeiros cinco anos de casamento com 95% de precisão. |
| The only catch is the model doesn't offer any reasons for its results - it simply predicts that you will or won't divorce without saying why. | O único problema é que o modelo não oferece nenhuma razão para seus resultados - ele simplesmente prevê que você vai ou não se divorciar sem dizer o porquê. |
| So, should you decide whether or not to get married based on this AI's prediction? | Então, você deve decidir se casa ou não com base na previsão dessa IA? |
| Suppose the model predicts you and Alex would divorce within five years of getting married. | Suponha que o modelo preveja que você e Alex se divorciariam dentro de cinco anos após o casamento. |
| At this point, you'd have three options. | Neste ponto, você teria três opções. |
| You could get married anyway and hope the prediction is wrong. | Você poderia se casar de qualquer maneira e esperar que a previsão esteja errada. |
| You could break up now, though there's no way to know if ending your currently happy relationship would cause more harm than letting the prediction run its course. | Você poderia terminar agora, embora não haja como saber se terminar seu relacionamento atualmente feliz causaria mais danos do que deixar a previsão seguir seu curso. |
| Or, you could stay together and remain unmarried, on the off-chance marriage itself would be the problem. | Ou, você poderia ficar junto e permanecer solteiro, na remota possibilidade de o casamento em si ser o problema. |
| Though without understanding the reasons for your predicted divorce, you'd never know if those mystery issues would still emerge to ruin your relationship. | Embora sem entender as razões para seu divórcio previsto, você nunca saberia se esses problemas misteriosos ainda surgiriam para arruinar seu relacionamento. |
| The uncertainty undermining all these options stems from a well known issue with AI around explainability and transparency. | A incerteza que mina todas essas opções decorre de um problema bem conhecido com a IA em torno da explicabilidade e transparência. |
| This problem plagues tons of potentially useful predictive models, such as those that could be used to predict which bank customers are most likely to repay a loan, or which prisoners are most likely to reoffend if granted parole. | Esse problema aflige toneladas de modelos preditivos potencialmente úteis, como aqueles que poderiam ser usados para prever quais clientes de bancos têm maior probabilidade de pagar um empréstimo ou quais prisioneiros têm maior probabilidade de reincidir se receberem liberdade condicional. |
| Without knowing why AI systems reach their decisions, many worry we can't think critically about how to follow their advice. | Sem saber por que os sistemas de IA chegam às suas decisões, muitos temem que não possamos pensar criticamente sobre como seguir seus conselhos. |
| But the transparency problem doesn't just prevent us from understanding these models, it also impacts the user's accountability. | Mas o problema da transparência não apenas nos impede de entender esses modelos, também afeta a responsabilidade do usuário. |
| For example, if the AI's prediction led you to break up with Alex, what explanation could you reasonably offer them? | Por exemplo, se a previsão da IA levou você a terminar com Alex, que explicação você poderia razoavelmente oferecer a ele? |
| That you want to end your happy relationship because some mysterious machine predicted its demise? | Que você quer terminar seu relacionamento feliz porque alguma máquina misteriosa previu sua morte? |
| That hardly seems fair to Alex. | Isso dificilmente parece justo com Alex. |
| We don't always owe people an explanation for our actions, but when we do, AI's lack of transparency can create ethically challenging situations. | Nem sempre devemos explicações às pessoas por nossas ações, mas quando devemos, a falta de transparência da IA pode criar situações eticamente desafiadoras. |
| And accountability is just one of the tradeoffs we make by outsourcing important decisions to AI. | E a responsabilidade é apenas uma das trocas que fazemos ao terceirizar decisões importantes para a IA. |
| If you're comfortable deferring your agency to an AI model it's likely because you're focused on the accuracy of the prediction. | Se você se sente confortável em adiar sua agência para um modelo de IA, é provável que você esteja focado na precisão da previsão. |
| In this mindset, it doesn't really matter why you and Alex might break up - simply that you likely will. | Nessa mentalidade, realmente não importa por que você e Alex podem terminar - simplesmente que provavelmente o farão. |
| But if you prioritize authenticity over accuracy, then you'll need to understand and appreciate the reasons for your future divorce before ending things today. | Mas se você priorizar a autenticidade em relação à precisão, então precisará entender e apreciar os motivos do seu futuro divórcio antes de terminar as coisas hoje. |
| Authentic decision making like this is essential for maintaining accountability, and it might be your best chance to prove the prediction wrong. | A tomada de decisão autêntica como essa é essencial para manter a responsabilidade, e pode ser sua melhor chance de provar que a previsão está errada. |
| On the other hand, it's also possible the model already accounted for your attempts to defy it, and you're just setting yourself up for failure. | Por outro lado, também é possível que o modelo já tenha levado em conta suas tentativas de desafiá-lo, e você está apenas se preparando para o fracasso. |
| 95% accuracy is high, but it's not perfect - that figure means 1 in 20 couples will receive a false prediction. | 95% de precisão é alta, mas não é perfeita - esse número significa que 1 em cada 20 casais receberá uma previsão falsa. |
| And as more people use this service, the likelihood increases that someone who was predicted to divorce will do so just because the AI predicted they would. | E à medida que mais pessoas usam esse serviço, aumenta a probabilidade de que alguém que foi previsto para se divorciar o faça apenas porque a IA previu que o faria. |
| If that happens to enough newlyweds, the AI's success rate could be artificially maintained or even increased by these self-fulfilling predictions. | Se isso acontecer com recém-casados suficientes, a taxa de sucesso da IA pode ser artificialmente mantida ou até aumentada por essas previsões autorrealizáveis. |
| Of course, no matter what the AI might tell you, whether you even ask for its prediction is still up to you. | Claro, não importa o que a IA possa lhe dizer, cabe a você decidir se vai ou não pedir sua previsão. |
Contagem de palavras
A tabela abaixo exibe as palavras encontradas neste vídeo, bem como o número de vezes em que aparecem.
Veja também: Para que serve esta tabela?
| Freq. | Palavra | Freq. | Palavra | Freq. | Palavra |
|---|---|---|---|---|---|
| 31 | the | 27 | you | 18 | to |
| 16 | and | 12 | is | 12 | ai |
| 11 | your | 11 | of | 10 | for |
| 9 | would | 9 | that | 9 | not |
| 9 | if | 9 | divorce | 8 | prediction |
| 8 | it | 8 | a | 7 | will |
| 7 | this | 6 | model | 6 | in |
| 6 | could | 6 | but | 6 | are |
| 6 | alex | 5 | years | 5 | up |
| 5 | s | 5 | or | 5 | on |
| 5 | marriage | 5 | just | 5 | be |
| 4 | we | 4 | relationship | 4 | predicted |
| 4 | likely | 4 | its | 4 | get |
| 4 | five | 4 | accuracy | 3 | without |
| 3 | within | 3 | with | 3 | why |
| 3 | transparency | 3 | these | 3 | their |
| 3 | reasons | 3 | problem | 3 | predict |
| 3 | over | 3 | might | 3 | married |
| 3 | know | 3 | first | 3 | even |
| 3 | does | 3 | do | 3 | can |
| 3 | break | 3 | because | 3 | an |
| 3 | accountability | 2 | wrong | 2 | which |
| 2 | whether | 2 | what | 2 | understanding |
| 2 | though | 2 | those | 2 | still |
| 2 | so | 2 | simply | 2 | predicts |
| 2 | people | 2 | options | 2 | offer |
| 2 | no | 2 | most | 2 | more |
| 2 | models | 2 | matter | 2 | likelihood |
| 2 | like | 2 | have | 2 | happy |
| 2 | getting | 2 | future | 2 | from |
| 2 | explanation | 2 | ending | 2 | end |
| 2 | decisions | 2 | course | 2 | couples |
| 2 | chance | 2 | cannot | 2 | by |
| 2 | based | 2 | as | 2 | also |
| 2 | about | 1 | yourself | 1 | worry |
| 1 | who | 1 | where | 1 | when |
| 1 | well | 1 | way | 1 | was |
| 1 | want | 1 | using | 1 | user |
| 1 | useful | 1 | used | 1 | use |
| 1 | us | 1 | unmarried | 1 | understand |
| 1 | undermining | 1 | uncertainty | 1 | tying |
| 1 | trained | 1 | tradeoffs | 1 | tons |
| 1 | together | 1 | today | 1 | three |
| 1 | think | 1 | things | 1 | they |
| 1 | there | 1 | then | 1 | them |
| 1 | than | 1 | tell | 1 | systems |
| 1 | suppose | 1 | such | 1 | success |
| 1 | strong | 1 | stems | 1 | stay |
| 1 | statistics | 1 | spending | 1 | someone |
| 1 | some | 1 | social | 1 | situations |
| 1 | should | 1 | setting | 1 | sets |
| 1 | service | 1 | self | 1 | seems |
| 1 | search | 1 | saying | 1 | run |
| 1 | ruin | 1 | results | 1 | repay |
| 1 | reoffend | 1 | remain | 1 | released |
| 1 | receive | 1 | reasonably | 1 | really |
| 1 | reach | 1 | rate | 1 | prove |
| 1 | prisoners | 1 | prioritize | 1 | prevent |
| 1 | predictive | 1 | predictions | 1 | potentially |
| 1 | possible | 1 | point | 1 | plagues |
| 1 | perfect | 1 | partner | 1 | parole |
| 1 | owe | 1 | outsourcing | 1 | our |
| 1 | other | 1 | only | 1 | online |
| 1 | one | 1 | often | 1 | off |
| 1 | now | 1 | newlyweds | 1 | new |
| 1 | never | 1 | need | 1 | near |
| 1 | mystery | 1 | mysterious | 1 | mistake |
| 1 | mindset | 1 | media | 1 | means |
| 1 | marriages | 1 | many | 1 | making |
| 1 | make | 1 | maintaining | 1 | maintained |
| 1 | machine | 1 | loving | 1 | lot |
| 1 | loan | 1 | live | 1 | letting |
| 1 | led | 1 | lately | 1 | last |
| 1 | lack | 1 | known | 1 | knowing |
| 1 | knot | 1 | itself | 1 | issues |
| 1 | issue | 1 | information | 1 | individuals |
| 1 | increases | 1 | increased | 1 | important |
| 1 | impacts | 1 | idea | 1 | how |
| 1 | hope | 1 | history | 1 | histories |
| 1 | high | 1 | harm | 1 | hardly |
| 1 | happens | 1 | hand | 1 | habits |
| 1 | granted | 1 | fulfilling | 1 | follow |
| 1 | focused | 1 | figure | 1 | feel |
| 1 | false | 1 | fair | 1 | failure |
| 1 | explainability | 1 | example | 1 | ethically |
| 1 | essential | 1 | enthusiastic | 1 | enough |
| 1 | engaged | 1 | emerge | 1 | divorced |
| 1 | demise | 1 | defy | 1 | deferring |
| 1 | decision | 1 | decide | 1 | data |
| 1 | customers | 1 | currently | 1 | critically |
| 1 | create | 1 | couple | 1 | containing |
| 1 | considering | 1 | company | 1 | comfortable |
| 1 | challenging | 1 | cause | 1 | catch |
| 1 | brand | 1 | best | 1 | before |
| 1 | been | 1 | bank | 1 | authenticity |
| 1 | authentic | 1 | attempts | 1 | at |
| 1 | ask | 1 | artificially | 1 | around |
| 1 | appreciate | 1 | anyway | 1 | any |
| 1 | amicably | 1 | always | 1 | already |
| 1 | all | 1 | agency | 1 | advice |
| 1 | activity | 1 | actions | 1 | accounted |
Excelente