1
00:00:15,580 --> 00:00:25,547
♪♪

2
00:00:25,590 --> 00:00:35,035
♪♪

3
00:00:35,078 --> 00:00:41,302
Lo que estamos a punto de enfrentar
es un mundo cada vez más intenso,

4
00:00:41,345 --> 00:00:45,219
sofisticada inteligencia
artificial.

5
00:00:45,262 --> 00:00:48,396
Hombre: la tecnología está evolucionando
mucho más rápido que nuestra sociedad

6
00:00:48,439 --> 00:00:51,181
tiene la capacidad de
protegernos como ciudadanos.

7
00:00:51,486 --> 00:00:55,707
Los robots están llegando y
destruirán nuestros medios de vida.

8
00:00:55,751 --> 00:01:01,844
♪♪

9
00:01:01,887 --> 00:01:04,238
Usted tiene una inteligencia
de red que nos mira,

10
00:01:04,281 --> 00:01:08,590
sabe todo sobre nosotros, y
comienza a tratar de cambiarnos.

11
00:01:08,633 --> 00:01:12,768
Hombre n. ° 2: Twitter se ha convertido en
el sitio de noticias número uno del mundo.

12
00:01:12,811 --> 00:01:15,205
Hombre # 3:
La tecnología nunca es buena o mala.

13
00:01:15,249 --> 00:01:18,948
Es lo que hacemos
con la tecnología.

14
00:01:18,991 --> 00:01:22,734
Eventualmente, millones de personas
serán despedidas de sus trabajos

15
00:01:22,778 --> 00:01:25,737
porque sus habilidades
van a ser obsoletas

16
00:01:25,781 --> 00:01:27,435
Mujer: desempleo masivo...

17
00:01:27,478 --> 00:01:32,527
mayores desigualdades,
incluso malestar social.

18
00:01:32,570 --> 00:01:35,530
Hombre n. ° 4: independientemente
de si temer o no tener miedo,

19
00:01:35,573 --> 00:01:38,185
el cambio viene, y
nadie puede detenerlo.

20
00:01:38,228 --> 00:01:44,539
♪♪

21
00:01:44,582 --> 00:01:46,323
Hombre # 5: hemos invertido
grandes cantidades de dinero,

22
00:01:46,367 --> 00:01:49,283
y así es lógico que
los militares,

23
00:01:49,326 --> 00:01:50,893
con sus propios deseos,

24
00:01:50,936 --> 00:01:53,330
van a comenzar a usar
estas tecnologías.

25
00:01:53,374 --> 00:01:55,419
Hombre # 6:
Sistemas autónomos de armas

26
00:01:55,463 --> 00:01:57,552
podría conducir a una carrera armamentista global

27
00:01:57,595 --> 00:02:00,032
para competir con la Era Nuclear.

28
00:02:00,076 --> 00:02:02,296
♪♪

29
00:02:02,339 --> 00:02:04,036
Hombre # 7:
Sabemos cuál es la respuesta.

30
00:02:04,080 --> 00:02:05,429
Eventualmente nos
estarán matando.

31
00:02:05,473 --> 00:02:10,782
♪♪

32
00:02:10,826 --> 00:02:12,349
Hombre # 8:
Estos avances tecnológicos

33
00:02:12,393 --> 00:02:15,874
van a dar milagros increíbles...

34
00:02:15,918 --> 00:02:18,181
e increíbles horrores.

35
00:02:18,225 --> 00:02:24,231
♪♪

36
00:02:24,274 --> 00:02:29,323
Hombre n. ° 9: Lo creamos, así
que, a medida que avanzamos,

37
00:02:29,366 --> 00:02:33,762
esta inteligencia contendrá
partes de nosotros.

38
00:02:33,805 --> 00:02:35,981
Y creo que la pregunta es:

39
00:02:36,025 --> 00:02:39,463
¿Contendrá las partes buenas...

40
00:02:39,507 --> 00:02:41,378
o las partes malas?

41
00:02:41,422 --> 00:02:47,079
♪♪

42
00:02:57,742 --> 00:03:04,793
♪♪

43
00:03:04,836 --> 00:03:08,840
Sarah: Los sobrevivientes llamaron a
la guerra "Día del Juicio Final".

44
00:03:08,884 --> 00:03:12,583
Vivieron solo para enfrentar
una nueva pesadilla:

45
00:03:12,627 --> 00:03:14,019
la guerra contra las máquinas.

46
00:03:14,063 --> 00:03:15,412
Aah!

47
00:03:15,456 --> 00:03:18,023
Nolan: Creo que lo hemos
jodido por completo.

48
00:03:18,067 --> 00:03:21,549
Creo que Hollywood ha logrado
inocular al público en general

49
00:03:21,592 --> 00:03:24,247
en contra de esta pregunta -

50
00:03:24,291 --> 00:03:28,251
la idea de máquinas que
se apoderarán del mundo.

51
00:03:28,295 --> 00:03:30,645
Abra las puertas de la bahía de la cápsula, HAL.

52
00:03:30,688 --> 00:03:33,561
Lo siento, Dave.

53
00:03:33,604 --> 00:03:35,911
Me temo que no puedo hacer eso.

54
00:03:37,434 --> 00:03:38,696
¿HAL?

55
00:03:38,740 --> 00:03:40,437
Nolan:
Hemos llorado lobos bastantes veces...

56
00:03:40,481 --> 00:03:42,483
¿HAL?
... que el público
ha dejado de prestar atención,

57
00:03:42,526 --> 00:03:43,962
porque se siente como
ciencia ficción.

58
00:03:44,006 --> 00:03:45,486
Incluso sentado aquí hablando
de eso en este momento,

59
00:03:45,529 --> 00:03:48,228
se siente un poco
tonto, un poco como,

60
00:03:48,271 --> 00:03:51,666
"Oh, esto es un artefacto de
alguna película de queso".

61
00:03:51,709 --> 00:03:56,584
El WOPR pasa todo el tiempo pensando
en la Tercera Guerra Mundial.

62
00:03:56,627 --> 00:03:59,064
Pero no lo es.

63
00:03:59,108 --> 00:04:02,111
El público en general está a
punto de quedar ciego por esto.

64
00:04:02,154 --> 00:04:11,512
♪♪

65
00:04:11,555 --> 00:04:13,514
Como sociedad y como individuos,

66
00:04:13,557 --> 00:04:18,954
estamos cada vez más rodeados
de inteligencia artificial.

67
00:04:18,997 --> 00:04:22,653
Llevamos este dispositivo de
bolsillo en la palma de nuestra mano

68
00:04:22,697 --> 00:04:24,829
que utilizamos para hacer
una sorprendente variedad

69
00:04:24,873 --> 00:04:26,831
de decisiones de vida en este momento,

70
00:04:26,875 --> 00:04:29,007
ayudado por un conjunto
de algoritmos distantes

71
00:04:29,051 --> 00:04:30,748
que no tenemos entendimiento.

72
00:04:30,792 --> 00:04:34,143
♪♪

73
00:04:34,186 --> 00:04:36,537
Ya estamos bastante
hastiados con la idea

74
00:04:36,580 --> 00:04:37,929
que podemos hablar con nuestro teléfono,

75
00:04:37,973 --> 00:04:40,062
y sobre todo nos entiende.

76
00:04:40,105 --> 00:04:42,456
Mujer: encontré bastantes
películas de acción.

77
00:04:42,499 --> 00:04:44,327
Hace cinco años, de ninguna manera.

78
00:04:44,371 --> 00:04:47,678
Markoff: Robótica.
Máquinas que ven y hablan...

79
00:04:47,722 --> 00:04:48,897
Mujer: Hola, ahi.... y escucha.

80
00:04:48,940 --> 00:04:50,202
Todo lo que es real ahora.

81
00:04:50,246 --> 00:04:51,639
Y estas tecnologías

82
00:04:51,682 --> 00:04:55,686
van a cambiar fundamentalmente
nuestra sociedad.

83
00:04:55,730 --> 00:05:00,212
Thrun: Ahora tenemos este gran
movimiento de autos sin conductor.

84
00:05:00,256 --> 00:05:01,953
Manejar un automóvil de forma autónoma

85
00:05:01,997 --> 00:05:06,088
puede mover las vidas de las
personas a un lugar mejor.

86
00:05:06,131 --> 00:05:07,916
Horvitz: he perdido un número
de miembros de la familia,

87
00:05:07,959 --> 00:05:09,570
incluyendo a mi madre,

88
00:05:09,613 --> 00:05:11,876
mi hermano y mi
cuñada y sus hijos,

89
00:05:11,920 --> 00:05:14,009
a accidentes automovilísticos.

90
00:05:14,052 --> 00:05:18,405
Está bastante claro que casi podríamos
eliminar los accidentes automovilísticos

91
00:05:18,448 --> 00:05:20,102
con automatización.

92
00:05:20,145 --> 00:05:21,843
30,000 vidas solo en los Estados Unidos.

93
00:05:21,886 --> 00:05:25,455
Alrededor de un millón en
todo el mundo por año.

94
00:05:25,499 --> 00:05:27,501
Ferrucci:
En salud, indicadores tempranos

95
00:05:27,544 --> 00:05:29,503
son el nombre del
juego en ese espacio,

96
00:05:29,546 --> 00:05:33,158
entonces ese es otro lugar donde
puede salvar la vida de alguien.

97
00:05:33,202 --> 00:05:35,726
Dr. Herman: Aquí en el
centro de cáncer de mama,

98
00:05:35,770 --> 00:05:38,381
todas las cosas que el
cerebro del radiólogo

99
00:05:38,425 --> 00:05:43,386
hace en dos minutos, la computadora
lo hace instantáneamente.

100
00:05:43,430 --> 00:05:47,303
La computadora ha analizado
mil millones de mamogramas,

101
00:05:47,347 --> 00:05:49,261
y toma esa información
y la aplica

102
00:05:49,305 --> 00:05:51,438
a esta imagen instantáneamente,

103
00:05:51,481 --> 00:05:54,441
entonces la aplicación
médica es profunda.

104
00:05:56,399 --> 00:05:57,705
Zilis:
Otra área realmente emocionante

105
00:05:57,748 --> 00:05:59,402
que estamos viendo
mucho desarrollo en

106
00:05:59,446 --> 00:06:03,275
en realidad está entendiendo
nuestro código genético

107
00:06:03,319 --> 00:06:06,104
y usar eso para
diagnosticar enfermedades

108
00:06:06,148 --> 00:06:07,758
y crea tratamientos
personalizados.

109
00:06:07,802 --> 00:06:11,632
♪♪

110
00:06:11,675 --> 00:06:14,112
Kurzweil:
La aplicación principal
de todas estas máquinas

111
00:06:14,156 --> 00:06:17,246
será ampliar nuestra
propia inteligencia.

112
00:06:17,289 --> 00:06:19,422
Podremos hacernos
más inteligentes,

113
00:06:19,466 --> 00:06:22,643
y seremos mejores en la
resolución de problemas.

114
00:06:22,686 --> 00:06:24,775
No tenemos que envejecer
Realmente entenderemos el envejecimiento.

115
00:06:24,819 --> 00:06:27,125
Podremos detenerlo.

116
00:06:27,169 --> 00:06:29,519
Hombre: Realmente no hay límite para
lo que las máquinas inteligentes

117
00:06:29,563 --> 00:06:30,868
puede hacer por la raza humana.

118
00:06:30,912 --> 00:06:36,265
♪♪

119
00:06:36,308 --> 00:06:39,399
¿Cómo podría una máquina más
inteligente no ser una máquina mejor?

120
00:06:42,053 --> 00:06:44,708
Es difícil decir exactamente
cuándo comencé a pensar

121
00:06:44,752 --> 00:06:46,971
eso fue un poco ingenuo

122
00:06:47,015 --> 00:06:56,459
♪♪

123
00:06:56,503 --> 00:06:59,288
Stuart Russell, él es
básicamente un dios

124
00:06:59,331 --> 00:07:00,898
en el campo de la
inteligencia artificial.

125
00:07:00,942 --> 00:07:04,380
Escribió el libro que usa
casi todas las universidades.

126
00:07:04,424 --> 00:07:06,948
Russell: Solía decir que es el
libro de texto de IA más vendido.

127
00:07:06,991 --> 00:07:10,255
Ahora solo digo "es el PDF el que
se roba con más frecuencia".

128
00:07:10,299 --> 00:07:13,650
♪♪

129
00:07:13,694 --> 00:07:17,306
La inteligencia artificial se trata de
hacer las computadoras inteligentes,

130
00:07:17,349 --> 00:07:19,830
y desde el punto de
vista del público,

131
00:07:19,874 --> 00:07:21,484
lo que cuenta como
AI es solo algo

132
00:07:21,528 --> 00:07:23,268
eso es sorprendentemente inteligente

133
00:07:23,312 --> 00:07:25,488
en comparación con lo que
pensábamos computadoras

134
00:07:25,532 --> 00:07:28,404
normalmente sería capaz de hacer.

135
00:07:28,448 --> 00:07:33,801
AI es un campo de investigación
para intentar simular básicamente

136
00:07:33,844 --> 00:07:36,717
todo tipo de capacidades humanas.

137
00:07:36,760 --> 00:07:38,719
Estamos en la era de la IA

138
00:07:38,762 --> 00:07:40,503
Silicon Valley tiene la
capacidad de concentrarse

139
00:07:40,547 --> 00:07:42,462
en una cosa brillante y brillante.

140
00:07:42,505 --> 00:07:43,767
Fue una red social

141
00:07:43,811 --> 00:07:45,508
y las redes sociales
en la última década,

142
00:07:45,552 --> 00:07:48,119
y está bastante claro que
el bit se ha volteado.

143
00:07:48,163 --> 00:07:50,557
Y comienza con el
aprendizaje automático.

144
00:07:50,600 --> 00:07:54,343
Nolan: Cuando miramos hacia atrás en
este momento, ¿cuál fue la primera IA?

145
00:07:54,386 --> 00:07:55,736
No es sexy, y no es la cosa

146
00:07:55,779 --> 00:07:57,389
podríamos ver en el cine,

147
00:07:57,433 --> 00:08:00,741
pero harías un gran
caso que Google creó,

148
00:08:00,784 --> 00:08:03,395
no es un motor de búsqueda,
sino una divinidad.

149
00:08:03,439 --> 00:08:06,486
Una forma de que las personas hagan
cualquier pregunta que deseen

150
00:08:06,529 --> 00:08:08,270
y obtener la respuesta que necesitaban.

151
00:08:08,313 --> 00:08:11,273
Russell: la mayoría de las personas no
saben que lo que Google está haciendo

152
00:08:11,316 --> 00:08:13,710
es en realidad una forma de
inteligencia artificial.

153
00:08:13,754 --> 00:08:16,234
Simplemente van allí,
escriben una cosa.

154
00:08:16,278 --> 00:08:18,323
Google les da la respuesta.

155
00:08:18,367 --> 00:08:21,544
Almizcle: con cada búsqueda, lo
entrenamos para que sea mejor.

156
00:08:21,588 --> 00:08:23,851
A veces estamos escribiendo una
búsqueda, y nos dice la respuesta

157
00:08:23,894 --> 00:08:27,419
antes de que hayas terminado
de hacer la pregunta.

158
00:08:27,463 --> 00:08:29,944
Ya sabes, ¿quién es el
presidente de Kazajstán?

159
00:08:29,987 --> 00:08:31,685
Y solo te dirá.

160
00:08:31,728 --> 00:08:33,600
No tiene que ir al sitio
web nacional de Kazajstán

161
00:08:33,643 --> 00:08:34,818
descubrir.

162
00:08:34,862 --> 00:08:37,081
Tú no solías ser
capaz de hacer eso.

163
00:08:37,125 --> 00:08:39,475
Nolan:
Esa es la inteligencia artificial.

164
00:08:39,519 --> 00:08:42,783
Dentro de unos años, cuando
intentemos comprender, diremos:

165
00:08:42,826 --> 00:08:44,567
"¿Cómo lo extrañamos?"

166
00:08:44,611 --> 00:08:47,527
Markoff: es una de las
contradicciones llamativas

167
00:08:47,570 --> 00:08:48,484
que estamos enfrentando

168
00:08:48,528 --> 00:08:50,051
Google y Facebook, et al,

169
00:08:50,094 --> 00:08:52,053
hemos construido
negocios en darnos,

170
00:08:52,096 --> 00:08:54,185
como sociedad, cosas gratis.

171
00:08:54,229 --> 00:08:56,013
Pero es un trato faustiano.

172
00:08:56,057 --> 00:09:00,017
Nos están extrayendo
algo a cambio,

173
00:09:00,061 --> 00:09:01,628
pero no sabemos

174
00:09:01,671 --> 00:09:03,760
qué código se está ejecutando
en el otro lado y por qué.

175
00:09:03,804 --> 00:09:06,546
No tenemos idea.

176
00:09:06,589 --> 00:09:08,591
Golpea justo en el tema

177
00:09:08,635 --> 00:09:11,028
de cuánto debemos confiar
en estas máquinas.

178
00:09:14,162 --> 00:09:18,166
Yo uso computadoras
literalmente para todo.

179
00:09:18,209 --> 00:09:21,386
Hay tantos avances en
la computadora ahora,

180
00:09:21,430 --> 00:09:23,824
y se ha convertido en una parte
tan importante de nuestras vidas.

181
00:09:23,867 --> 00:09:26,174
Es increíble lo que una
computadora puede hacer.

182
00:09:26,217 --> 00:09:29,090
En realidad puede llevar una
computadora en su bolso.

183
00:09:29,133 --> 00:09:31,571
Quiero decir, ¿qué tan increíble es eso?

184
00:09:31,614 --> 00:09:35,052
Creo que la mayoría de la tecnología
está hecha para facilitar las cosas

185
00:09:35,096 --> 00:09:37,315
y más simple para todos nosotros,

186
00:09:37,359 --> 00:09:40,362
así que con suerte eso solo
sigue siendo el enfoque.

187
00:09:40,405 --> 00:09:43,147
Creo que todos adoran
sus computadoras.

188
00:09:44,409 --> 00:09:51,678
♪♪

189
00:09:51,721 --> 00:09:53,810
La gente no se da cuenta de
que están constantemente

190
00:09:53,854 --> 00:09:59,076
negociado con máquinas,

191
00:09:59,120 --> 00:10:02,993
si ese es el precio de los
productos en su carrito de Amazon,

192
00:10:03,037 --> 00:10:05,517
si puede obtener un
vuelo en particular,

193
00:10:05,561 --> 00:10:08,912
si puede reservar una habitación
en un hotel en particular.

194
00:10:08,956 --> 00:10:11,959
Lo que estás experimentando son
algoritmos de aprendizaje automático

195
00:10:12,002 --> 00:10:14,265
que han determinado que
una persona como tú

196
00:10:14,309 --> 00:10:15,919
está dispuesto a pagar 2 centavos más

197
00:10:15,963 --> 00:10:17,791
y está cambiando el precio.

198
00:10:17,834 --> 00:10:21,751
♪♪

199
00:10:21,795 --> 00:10:24,014
Kosinski: Ahora, una computadora
mira a millones de personas

200
00:10:24,058 --> 00:10:28,105
simultáneamente para
patrones muy sutiles.

201
00:10:28,149 --> 00:10:31,369
Puedes tomar huellas digitales
aparentemente inocentes,

202
00:10:31,413 --> 00:10:34,677
como la lista de reproducción
de alguien en Spotify,

203
00:10:34,721 --> 00:10:37,201
o cosas que compraron en Amazon,

204
00:10:37,245 --> 00:10:40,291
y luego usa algoritmos
para traducir esto

205
00:10:40,335 --> 00:10:44,513
en un perfil muy detallado
y muy preciso, íntimo.

206
00:10:47,603 --> 00:10:50,911
Kaplan: hay un dossier sobre cada
uno de nosotros que es tan extenso

207
00:10:50,954 --> 00:10:52,695
sería posiblemente exacto decir

208
00:10:52,739 --> 00:10:55,698
que saben más de
ti que tu madre.

209
00:10:55,742 --> 00:11:04,054
♪♪

210
00:11:04,098 --> 00:11:06,883
Tegmark: la causa principal
del reciente avance de la IA

211
00:11:06,927 --> 00:11:08,580
no es solo eso un tipo

212
00:11:08,624 --> 00:11:11,583
tuvo una visión
brillante de repente,

213
00:11:11,627 --> 00:11:14,325
pero simplemente que tenemos
datos mucho más grandes

214
00:11:14,369 --> 00:11:18,242
para entrenarlos en
computadoras mucho mejores.

215
00:11:18,286 --> 00:11:19,940
el Kaliouby:
La magia está en los datos.

216
00:11:19,983 --> 00:11:21,463
Es una tonelada de datos.

217
00:11:21,506 --> 00:11:23,726
Quiero decir, son datos que
nunca antes existieron.

218
00:11:23,770 --> 00:11:26,686
Nunca hemos tenido esta
información antes.

219
00:11:26,729 --> 00:11:30,733
Creamos tecnologías que
nos permiten capturar

220
00:11:30,777 --> 00:11:33,040
grandes cantidades de información.

221
00:11:33,083 --> 00:11:35,738
Si piensas en mil millones de
teléfonos celulares en el planeta

222
00:11:35,782 --> 00:11:38,393
con giroscopios y acelerómetros

223
00:11:38,436 --> 00:11:39,786
y lectores de huellas dactilares...

224
00:11:39,829 --> 00:11:42,005
par eso con el GPS y
las fotos que toman

225
00:11:42,049 --> 00:11:43,964
y los tweets que envías,

226
00:11:44,007 --> 00:11:47,750
todos estamos emitiendo grandes
cantidades de datos individualmente.

227
00:11:47,794 --> 00:11:50,274
Los automóviles que conducen a medida que
las cámaras los añaden absorben información

228
00:11:50,318 --> 00:11:52,059
sobre el mundo que los rodea.

229
00:11:52,102 --> 00:11:54,844
Los satélites que ahora están en
órbita del tamaño de una tostadora.

230
00:11:54,888 --> 00:11:57,629
El infrarrojo sobre la
vegetación en el planeta.

231
00:11:57,673 --> 00:11:59,109
Las boyas que están
afuera en los océanos

232
00:11:59,153 --> 00:12:01,024
para alimentar a los modelos climáticos.

233
00:12:01,068 --> 00:12:05,028
♪♪

234
00:12:05,072 --> 00:12:08,902
Y la NSA, la CIA, ya que
recopilan información

235
00:12:08,945 --> 00:12:12,644
sobre las situaciones
geopolíticas.

236
00:12:12,688 --> 00:12:15,604
El mundo de hoy literalmente
nada en estos datos.

237
00:12:15,647 --> 00:12:20,565
♪♪

238
00:12:20,609 --> 00:12:22,480
Kosinski: En 2012,

239
00:12:22,524 --> 00:12:25,875
IBM calculó que un
ser humano promedio

240
00:12:25,919 --> 00:12:31,098
deja 500 megabytes de huellas
digitales todos los días.

241
00:12:31,141 --> 00:12:34,841
Si quería hacer una copia de
seguridad de un día de datos

242
00:12:34,884 --> 00:12:36,494
que la humanidad produce

243
00:12:36,538 --> 00:12:39,062
y lo imprime en un papel
del tamaño de una carta,

244
00:12:39,106 --> 00:12:43,806
a doble cara, tamaño de
fuente 12, y lo apilan,

245
00:12:43,850 --> 00:12:46,113
llegaría desde la
superficie de la Tierra

246
00:12:46,156 --> 00:12:49,116
al sol cuatro veces más.

247
00:12:49,159 --> 00:12:51,292
Eso es todos los días.

248
00:12:51,335 --> 00:12:53,816
Kaplan: los datos en sí
no son buenos ni malos.

249
00:12:53,860 --> 00:12:55,470
Es cómo se usa.

250
00:12:55,513 --> 00:12:58,342
Confiamos, realmente, en la buena
voluntad de estas personas

251
00:12:58,386 --> 00:13:01,171
y sobre las políticas
de estas compañías.

252
00:13:01,215 --> 00:13:03,870
No hay un requisito
legal de cómo pueden

253
00:13:03,913 --> 00:13:06,307
y debería usar ese
tipo de datos.

254
00:13:06,350 --> 00:13:09,266
Eso, para mí, es el corazón
del problema de la confianza.

255
00:13:11,007 --> 00:13:13,793
Barrat: ahora hay una carrera
gigante para crear máquinas

256
00:13:13,836 --> 00:13:15,751
que son tan inteligentes como los humanos

257
00:13:15,795 --> 00:13:17,971
Google: están trabajando en lo
que realmente es el tipo de

258
00:13:18,014 --> 00:13:20,016
Proyecto Manhattan de
inteligencia artificial.

259
00:13:20,060 --> 00:13:22,671
Ellos tienen la mayor cantidad de dinero.
Ellos tienen el mayor talento.

260
00:13:22,714 --> 00:13:27,067
Están comprando empresas de
IA y compañías de robótica.

261
00:13:27,110 --> 00:13:29,069
Urban: La gente todavía piensa en
Google como un motor de búsqueda

262
00:13:29,112 --> 00:13:30,722
y su proveedor de correo electrónico

263
00:13:30,766 --> 00:13:33,943
y muchas otras cosas
que usamos a diario,

264
00:13:33,987 --> 00:13:39,383
pero detrás de ese cuadro de búsqueda
hay 10 millones de servidores.

265
00:13:39,427 --> 00:13:42,299
Eso hace que Google sea la
plataforma informática más poderosa

266
00:13:42,343 --> 00:13:43,910
en el mundo.

267
00:13:43,953 --> 00:13:47,217
Google ahora está trabajando en una plataforma
informática de Inteligencia Artificial

268
00:13:47,261 --> 00:13:50,133
que tendrá 100 millones
de servidores.

269
00:13:52,179 --> 00:13:53,963
Entonces, cuando estás
interactuando con Google,

270
00:13:54,007 --> 00:13:56,052
solo estamos viendo la
uña de un dedo de algo

271
00:13:56,096 --> 00:13:58,881
esa es una bestia
gigante en ciernes.

272
00:13:58,925 --> 00:14:00,622
Y la verdad es que ni
siquiera estoy seguro

273
00:14:00,665 --> 00:14:02,798
que Google sabe en lo que
se está convirtiendo.

274
00:14:02,842 --> 00:14:11,502
♪♪

275
00:14:11,546 --> 00:14:14,114
Phoenix: si miras dentro de qué
algoritmos están siendo utilizados

276
00:14:14,157 --> 00:14:15,811
en Google,

277
00:14:15,855 --> 00:14:20,076
es tecnología en gran
parte de los años 80.

278
00:14:20,120 --> 00:14:23,863
Entonces estos son modelos que
entrenas mostrándoles un 1, un 2,

279
00:14:23,906 --> 00:14:27,344
y un 3, y no aprende
qué es 1 o qué es 2 -

280
00:14:27,388 --> 00:14:30,434
Aprende cuál es la diferencia
entre un 1 y un 2.

281
00:14:30,478 --> 00:14:32,436
Es solo un cálculo.

282
00:14:32,480 --> 00:14:35,396
En la última media década, donde
hemos hecho este progreso rápido,

283
00:14:35,439 --> 00:14:38,268
todo ha sido en el
reconocimiento de patrones.

284
00:14:38,312 --> 00:14:41,184
Tegmark: la mayor parte de
la IA buena y anticuada

285
00:14:41,228 --> 00:14:44,057
fue cuando le decíamos a
nuestras computadoras

286
00:14:44,100 --> 00:14:46,798
cómo jugar un juego como el ajedrez...

287
00:14:46,842 --> 00:14:49,584
del viejo paradigma donde simplemente
le dices a la computadora

288
00:14:49,627 --> 00:14:52,195
exactamente qué hacer

289
00:14:54,502 --> 00:14:57,505
Locutor:
Esto es "¡Jeopardy!"

290
00:14:57,548 --> 00:14:59,376
♪♪

291
00:14:59,420 --> 00:15:02,510
"¡El desafío de IBM"!

292
00:15:02,553 --> 00:15:05,730
Ferrucci: Nadie en ese momento
había pensado que una máquina

293
00:15:05,774 --> 00:15:08,298
podría tener la precisión
y la confianza

294
00:15:08,342 --> 00:15:09,952
y la velocidad para
jugar "Jeopardy!"

295
00:15:09,996 --> 00:15:11,475
lo suficientemente bien
contra los mejores humanos.

296
00:15:11,519 --> 00:15:14,609
Vamos a jugar "¡Jeopardy!"

297
00:15:18,569 --> 00:15:20,354
Watson.Watson: ¿Qué es "zapato"?

298
00:15:20,397 --> 00:15:21,877
Tienes razón.
Tienes que elegir.

299
00:15:21,921 --> 00:15:24,836
APB de carácter
literario por $ 800.

300
00:15:24,880 --> 00:15:28,014
Responder --
el Daily Double.

301
00:15:28,057 --> 00:15:31,539
Watson realmente obtuvo su
conocimiento al leer Wikipedia

302
00:15:31,582 --> 00:15:34,672
y 200 millones de páginas de
documentos en lenguaje natural.

303
00:15:34,716 --> 00:15:36,674
Ferrucci:
No puedes programar cada línea

304
00:15:36,718 --> 00:15:38,502
de cómo funciona el mundo

305
00:15:38,546 --> 00:15:40,722
La máquina tiene que
aprender leyendo.

306
00:15:40,765 --> 00:15:42,202
Ahora venimos a Watson.

307
00:15:42,245 --> 00:15:43,986
"¿Quién es Bram Stoker?"

308
00:15:44,030 --> 00:15:45,988
Y la apuesta?

309
00:15:46,032 --> 00:15:49,165
¡Hola! $ 17,973.

310
00:15:49,209 --> 00:15:50,993
$ 41,413.

311
00:15:51,037 --> 00:15:53,343
Y un total de dos días de $ 77--

312
00:15:53,387 --> 00:15:56,694
Phoenix: Watson entrenado en
grandes cantidades de texto,

313
00:15:56,738 --> 00:15:59,828
pero no es como si entendiera
lo que está diciendo.

314
00:15:59,871 --> 00:16:02,309
No sabe que el agua moja
las cosas tocando el agua

315
00:16:02,352 --> 00:16:04,441
y al ver la forma en que las
cosas se comportan en el mundo

316
00:16:04,485 --> 00:16:06,182
la forma en que tú y yo hacemos

317
00:16:06,226 --> 00:16:10,143
Una gran cantidad de lenguaje AI hoy
no está construyendo modelos lógicos

318
00:16:10,186 --> 00:16:11,622
de cómo funciona el mundo

319
00:16:11,666 --> 00:16:15,365
Más bien, está viendo cómo
aparecen las palabras

320
00:16:15,409 --> 00:16:18,238
en el contexto de otras palabras.

321
00:16:18,281 --> 00:16:20,196
Barrat: David Ferrucci
desarrolló Watson de IBM,

322
00:16:20,240 --> 00:16:23,547
y alguien le preguntó:
"¿Acaso Watson piensa?"

323
00:16:23,591 --> 00:16:27,160
Y él dijo: "¿Nade un submarino?"

324
00:16:27,203 --> 00:16:29,031
Y lo que querían decir era,
cuando desarrollaron submarinos,

325
00:16:29,075 --> 00:16:32,992
tomaron prestados los principios
básicos de la natación de los peces.

326
00:16:33,035 --> 00:16:35,037
Pero un submarino nada más
lejos y más rápido que el pez

327
00:16:35,081 --> 00:16:36,125
y puede llevar una gran carga útil.

328
00:16:36,169 --> 00:16:39,911
Fuera, nada el pez.

329
00:16:39,955 --> 00:16:41,870
Ng: Watson gana el
juego de "Jeopardy!"

330
00:16:41,913 --> 00:16:43,741
pasará a la historia de la IA

331
00:16:43,785 --> 00:16:46,570
como un hito significativo.

332
00:16:46,614 --> 00:16:49,269
Tendemos a sorprendernos cuando
la máquina funciona tan bien.

333
00:16:49,312 --> 00:16:52,663
Estoy aún más sorprendido cuando la
computadora golpea a los humanos en las cosas

334
00:16:52,707 --> 00:16:55,188
que los humanos son
naturalmente buenos en.

335
00:16:55,231 --> 00:16:58,060
Así es como progresamos.

336
00:16:58,104 --> 00:17:00,671
En los primeros días del
proyecto Google Brain,

337
00:17:00,715 --> 00:17:02,804
Le di al equipo una
instrucción muy simple,

338
00:17:02,847 --> 00:17:05,807
que fue, "construir la red
neuronal más grande posible,

339
00:17:05,850 --> 00:17:08,157
como 1,000 computadoras ".

340
00:17:08,201 --> 00:17:09,724
Almizcle: una red neuronal
es algo muy cercano

341
00:17:09,767 --> 00:17:12,161
a una simulación de cómo
funciona el cerebro.

342
00:17:12,205 --> 00:17:16,818
Es muy probabilístico, pero
con relevancia contextual.

343
00:17:16,861 --> 00:17:18,298
Urbano: en tu cerebro,
tienes neuronas largas

344
00:17:18,341 --> 00:17:20,256
que se conectan a miles
de otras neuronas,

345
00:17:20,300 --> 00:17:22,519
y tienes estos caminos
que se forman y forjan

346
00:17:22,563 --> 00:17:24,739
basado en lo que el
cerebro necesita hacer

347
00:17:24,782 --> 00:17:28,960
Cuando un bebé intenta algo y
lo logra, hay una recompensa,

348
00:17:29,004 --> 00:17:32,312
y ese camino que creó
el éxito se fortalece.

349
00:17:32,355 --> 00:17:34,662
Si falla en algo, el
camino se debilita,

350
00:17:34,705 --> 00:17:36,794
y así, con el tiempo, el
cerebro se perfecciona

351
00:17:36,838 --> 00:17:40,320
ser bueno en el
entorno que lo rodea.

352
00:17:40,363 --> 00:17:43,279
Ng: Realmente, es solo hacer que las
máquinas aprendan por sí mismas.

353
00:17:43,323 --> 00:17:45,238
Esto se llama "aprendizaje profundo"
y "aprendizaje profundo"

354
00:17:45,281 --> 00:17:48,676
y "redes neuronales"
significa más o menos lo mismo.

355
00:17:48,719 --> 00:17:52,375
Tegmark: el aprendizaje profundo
es un enfoque totalmente diferente

356
00:17:52,419 --> 00:17:55,161
donde la computadora aprende
más como un niño pequeño,

357
00:17:55,204 --> 00:17:56,466
simplemente obteniendo una gran cantidad de datos

358
00:17:56,510 --> 00:18:00,340
y finalmente descifrar cosas.

359
00:18:00,383 --> 00:18:03,125
La computadora se vuelve más
inteligente y más inteligente

360
00:18:03,169 --> 00:18:05,997
ya que tiene más experiencias.

361
00:18:06,041 --> 00:18:08,130
Ng: Entonces, imagina, si quieres,
una red neuronal, ya sabes,

362
00:18:08,174 --> 00:18:09,697
como 1,000 computadoras

363
00:18:09,740 --> 00:18:11,438
Y se despierta sin saber nada.

364
00:18:11,481 --> 00:18:14,093
Y lo hicimos ver YouTube
durante una semana.

365
00:18:14,136 --> 00:18:16,704
♪♪

366
00:18:18,706 --> 00:18:20,360
♪ estilo Oppan Gangnam

367
00:18:20,403 --> 00:18:23,189
¡Ay!

368
00:18:25,408 --> 00:18:28,194
Charlie!
Eso realmente duele!

369
00:18:28,237 --> 00:18:30,152
♪♪

370
00:18:30,196 --> 00:18:31,327
♪ estilo Gangnam

371
00:18:31,371 --> 00:18:33,286
♪ Op, op, op, op

372
00:18:33,329 --> 00:18:36,202
♪ estilo Oppan Gangnam

373
00:18:36,245 --> 00:18:38,508
Ng: Y así, después de ver
YouTube durante una semana,

374
00:18:38,552 --> 00:18:39,988
¿Qué aprendería?

375
00:18:40,031 --> 00:18:41,903
Teníamos la hipótesis de
que aprendería a detectar

376
00:18:41,946 --> 00:18:44,384
objetos comunes en videos.

377
00:18:44,427 --> 00:18:47,517
Y entonces, sabemos que los rostros
humanos aparecen mucho en los videos,

378
00:18:47,561 --> 00:18:49,302
entonces miramos, y he aquí,

379
00:18:49,345 --> 00:18:51,608
había una neurona que había aprendido
a detectar rostros humanos.

380
00:18:51,652 --> 00:18:56,265
¡Dejen en paz a Britney!

381
00:18:56,309 --> 00:18:58,354
Bueno, ¿qué más aparece
en los videos mucho?

382
00:19:00,095 --> 00:19:01,792
Entonces, miramos, y
para nuestra sorpresa,

383
00:19:01,836 --> 00:19:04,882
en realidad había una neurona que
había aprendido a detectar gatos.

384
00:19:04,926 --> 00:19:14,849
♪♪

385
00:19:14,892 --> 00:19:17,068
Todavía recuerdo haber
visto el reconocimiento.

386
00:19:17,112 --> 00:19:18,635
"Wow, eso es un gato.
De acuerdo, genial.

387
00:19:18,679 --> 00:19:20,071
Estupendo."

388
00:19:23,162 --> 00:19:24,859
Barrat:
Todo es bastante inocuo

389
00:19:24,902 --> 00:19:26,295
cuando estás pensando
en el futuro

390
00:19:26,339 --> 00:19:29,733
Todo parece
inofensivo y benigno.

391
00:19:29,777 --> 00:19:31,605
Pero estamos haciendo
arquitecturas cognitivas

392
00:19:31,648 --> 00:19:33,520
que volará más lejos y
más rápido que nosotros

393
00:19:33,563 --> 00:19:35,086
y llevar una mayor carga útil,

394
00:19:35,130 --> 00:19:37,437
y no serán cálidos y confusos.

395
00:19:37,480 --> 00:19:39,656
Ferrucci: Creo que,
en tres a cinco años,

396
00:19:39,700 --> 00:19:41,702
verás un sistema de computadora

397
00:19:41,745 --> 00:19:45,401
que podrá aprender
de forma autónoma

398
00:19:45,445 --> 00:19:49,013
cómo entender, cómo
construir entendimiento,

399
00:19:49,057 --> 00:19:51,364
no muy diferente a la forma en
que funciona la mente humana.

400
00:19:53,931 --> 00:19:56,891
Cualquiera sea el almuerzo,
ciertamente fue delicioso.

401
00:19:56,934 --> 00:19:59,807
Simplemente algunos de
los sintéticos de Robby.

402
00:19:59,850 --> 00:20:01,635
Él es tu cocinero, también?

403
00:20:01,678 --> 00:20:04,551
Incluso fabrica las
materias primas.

404
00:20:04,594 --> 00:20:06,944
Ven por aquí, Robby.

405
00:20:06,988 --> 00:20:09,773
Te mostraré cómo funciona esto.

406
00:20:11,122 --> 00:20:13,342
Uno introduce una muestra
de comida humana

407
00:20:13,386 --> 00:20:15,344
a través de esta apertura.

408
00:20:15,388 --> 00:20:17,738
Aquí abajo hay un pequeño
laboratorio químico incorporado,

409
00:20:17,781 --> 00:20:19,218
donde lo analiza

410
00:20:19,261 --> 00:20:21,263
Más tarde, él puede reproducir
moléculas idénticas

411
00:20:21,307 --> 00:20:22,482
en cualquier forma o cantidad

412
00:20:22,525 --> 00:20:24,614
Por qué, es el sueño
de una ama de casa.

413
00:20:24,658 --> 00:20:26,834
Announcer: Conoce a Baxter,

414
00:20:26,877 --> 00:20:29,445
revolucionaria nueva
categoría de robots,

415
00:20:29,489 --> 00:20:30,490
con sentido común.

416
00:20:30,533 --> 00:20:31,839
Baxter...

417
00:20:31,882 --> 00:20:33,449
Barrat: Baxter es
un buen ejemplo

418
00:20:33,493 --> 00:20:36,887
del tipo de competencia que
enfrentamos con las máquinas.

419
00:20:36,931 --> 00:20:42,676
Baxter puede hacer casi cualquier cosa
que podamos hacer con nuestras manos.

420
00:20:42,719 --> 00:20:45,722
Baxter cuesta lo que un
trabajador con salario mínimo

421
00:20:45,766 --> 00:20:47,507
hace en un año.

422
00:20:47,550 --> 00:20:48,769
Pero Baxter no tomará el lugar

423
00:20:48,812 --> 00:20:50,118
de un trabajador con salario mínimo -

424
00:20:50,161 --> 00:20:51,772
Él tomará el lugar de tres,

425
00:20:51,815 --> 00:20:55,515
porque nunca se cansan,
nunca toman descansos.

426
00:20:55,558 --> 00:20:57,865
Gourley: Eso es probablemente
lo primero que vamos a ver -

427
00:20:57,908 --> 00:20:59,475
desplazamiento de trabajos.

428
00:20:59,519 --> 00:21:01,651
Se van a hacer más rápido,
más rápido, más barato

429
00:21:01,695 --> 00:21:04,088
por máquinas.

430
00:21:04,132 --> 00:21:07,657
Nuestra capacidad de mantenernos
actualizados es tan increíblemente limitada

431
00:21:07,701 --> 00:21:10,138
en comparación con las
máquinas que construimos.

432
00:21:10,181 --> 00:21:13,446
Por ejemplo, ahora tenemos este
gran movimiento de Uber y Lyft

433
00:21:13,489 --> 00:21:15,056
tipo de hacer que el
transporte sea más barato

434
00:21:15,099 --> 00:21:16,405
y democratizar el transporte,

435
00:21:16,449 --> 00:21:17,711
Lo cual es genial.

436
00:21:17,754 --> 00:21:19,321
El siguiente paso será

437
00:21:19,365 --> 00:21:21,149
que todos van a ser reemplazados
por autos sin conductor,

438
00:21:21,192 --> 00:21:22,411
y luego todos los
controladores de Uber y Lyft

439
00:21:22,455 --> 00:21:25,936
tiene que encontrar
algo nuevo para hacer.

440
00:21:25,980 --> 00:21:28,156
Barrat: hay 4 millones de
conductores profesionales

441
00:21:28,199 --> 00:21:29,723
en los Estados Unidos.

442
00:21:29,766 --> 00:21:31,638
Están desempleados pronto.

443
00:21:31,681 --> 00:21:34,075
7 millones de personas
que ingresan datos.

444
00:21:34,118 --> 00:21:37,339
Esas personas van a
estar sin trabajo.

445
00:21:37,383 --> 00:21:40,342
Un trabajo no es solo
dinero, ¿verdad?

446
00:21:40,386 --> 00:21:42,605
En un nivel biológico,
tiene un propósito.

447
00:21:42,649 --> 00:21:45,391
Se convierte en una cosa definitoria.

448
00:21:45,434 --> 00:21:48,350
Cuando los trabajos desaparecieron
en cualquier civilización dada,

449
00:21:48,394 --> 00:21:50,787
no pasa mucho tiempo hasta que
eso se convierta en violencia.

450
00:21:53,355 --> 00:21:57,011
♪♪

451
00:21:59,622 --> 00:22:02,016
Nos enfrentamos a una gran
división entre ricos y pobres,

452
00:22:02,059 --> 00:22:05,019
porque eso es lo que provocarán la
automatización y la inteligencia artificial:

453
00:22:05,062 --> 00:22:08,588
una mayor división entre los que
tienen y los que no tienen.

454
00:22:08,631 --> 00:22:10,807
En este momento, está
trabajando en la clase media,

455
00:22:10,851 --> 00:22:12,896
en trabajos de cuello blanco.

456
00:22:12,940 --> 00:22:15,334
Watson de IBM hace
análisis de negocios

457
00:22:15,377 --> 00:22:20,600
que solíamos pagarle a un analista
de negocios $ 300 por hora.

458
00:22:20,643 --> 00:22:23,037
Gourley: Hoy vas a la
universidad para ser médico,

459
00:22:23,080 --> 00:22:25,082
ser contador, ser periodista

460
00:22:25,126 --> 00:22:28,608
No está claro si habrá
trabajos para usted.

461
00:22:28,651 --> 00:22:32,612
Ng: Si alguien está planeando una
carrera de 40 años en radiología,

462
00:22:32,655 --> 00:22:34,222
solo leyendo imágenes,

463
00:22:34,265 --> 00:22:35,745
Creo que eso podría
ser un desafío

464
00:22:35,789 --> 00:22:36,920
a los nuevos graduados de hoy.

465
00:22:39,270 --> 00:22:49,193
♪♪

466
00:22:50,847 --> 00:22:58,464
♪♪

467
00:22:58,507 --> 00:23:02,729
Dr. Herman: El robot da Vinci
se utiliza actualmente

468
00:23:02,772 --> 00:23:07,516
por una variedad de cirujanos
por su precisión y su capacidad

469
00:23:07,560 --> 00:23:12,303
para evitar las inevitables
fluctuaciones de la mano humana.

470
00:23:12,347 --> 00:23:17,787
♪♪

471
00:23:17,831 --> 00:23:23,358
♪♪

472
00:23:23,402 --> 00:23:28,494
Cualquiera que mire esto
siente lo sorprendente de eso.

473
00:23:30,931 --> 00:23:34,674
Mira a través del alcance, y
está viendo la mano de la garra

474
00:23:34,717 --> 00:23:36,893
sosteniendo el ovario de esa mujer.

475
00:23:36,937 --> 00:23:42,638
La humanidad estaba descansando
aquí en las manos de este robot.

476
00:23:42,682 --> 00:23:46,947
La gente dice que es el
futuro, pero no es el futuro,

477
00:23:46,990 --> 00:23:50,516
Es el presente.

478
00:23:50,559 --> 00:23:52,474
Zilis: si piensas en
un robot quirúrgico,

479
00:23:52,518 --> 00:23:54,737
a menudo no hay mucha
inteligencia en estas cosas,

480
00:23:54,781 --> 00:23:56,783
pero con el tiempo, a medida que
ponemos más y más inteligencia

481
00:23:56,826 --> 00:23:58,567
en estos sistemas,

482
00:23:58,611 --> 00:24:02,441
los robots quirúrgicos en realidad pueden
aprender de cada cirugía de robot.

483
00:24:02,484 --> 00:24:04,181
Están siguiendo los
movimientos, están entendiendo

484
00:24:04,225 --> 00:24:05,966
lo que funcionó y
lo que no funcionó.

485
00:24:06,009 --> 00:24:08,708
Y, finalmente, el robot
para cirugías de rutina

486
00:24:08,751 --> 00:24:12,320
va a ser capaz de realizar
eso completamente solo...

487
00:24:12,363 --> 00:24:13,756
o con supervisión humana

488
00:24:32,558 --> 00:24:34,995
♪♪

489
00:24:35,038 --> 00:24:37,214
Dr. Herman: Parece que lo
estamos alimentando y creando,

490
00:24:37,258 --> 00:24:42,785
pero, de alguna manera, somos
esclavos de la tecnología,

491
00:24:42,829 --> 00:24:45,701
porque no podemos regresar

492
00:24:50,053 --> 00:24:52,882
Gourley: Las máquinas están tomando
bocados cada vez más grandes

493
00:24:52,926 --> 00:24:57,147
fuera de nuestro conjunto de habilidades
a una velocidad cada vez mayor.

494
00:24:57,191 --> 00:24:59,236
Y entonces tenemos que
correr más y más rápido

495
00:24:59,280 --> 00:25:00,890
para mantenerse por delante de las máquinas.

496
00:25:02,675 --> 00:25:04,677
¿Como me veo?

497
00:25:04,720 --> 00:25:06,374
Bueno.

498
00:25:10,030 --> 00:25:11,553
¿Estás atraído por mí?

499
00:25:11,597 --> 00:25:14,251
¿Te atraen?

500
00:25:14,295 --> 00:25:17,777
Me das indicios de que lo eres.

501
00:25:17,820 --> 00:25:20,562
¿Hago?
Sí.

502
00:25:20,606 --> 00:25:22,608
Nolan: Este es el futuro
al que nos dirigimos.

503
00:25:22,651 --> 00:25:26,046
Queremos diseñar
nuestros compañeros.

504
00:25:26,089 --> 00:25:29,266
Nos va a gustar ver un
rostro humano en AI.

505
00:25:29,310 --> 00:25:33,967
Por lo tanto, jugar nuestras emociones
será deprimentemente fácil.

506
00:25:34,010 --> 00:25:35,272
No somos tan complicados.

507
00:25:35,316 --> 00:25:38,101
Somos simples
Estímulo-respuesta.

508
00:25:38,145 --> 00:25:43,063
Puedo hacerte como si
básicamente te sonriera mucho.

509
00:25:43,106 --> 00:25:45,674
Las IA serán fantásticas
para manipularnos.

510
00:25:45,718 --> 00:25:54,640
♪♪

511
00:25:54,683 --> 00:25:56,946
Entonces, has desarrollado
una tecnología

512
00:25:56,990 --> 00:26:00,036
eso puede sentir lo que
la gente está sintiendo

513
00:26:00,080 --> 00:26:01,472
Derecha.
Desarrollamos tecnología

514
00:26:01,516 --> 00:26:03,387
que puede leer tus
expresiones faciales

515
00:26:03,431 --> 00:26:06,521
y mapear eso a una cantidad
de estados emocionales.

516
00:26:06,565 --> 00:26:08,697
el Kaliouby: hace 15 años,
acababa de terminar

517
00:26:08,741 --> 00:26:11,482
mis estudios de pregrado
en informática,

518
00:26:11,526 --> 00:26:15,008
y me di cuenta de que
estaba pasando mucho tiempo

519
00:26:15,051 --> 00:26:17,793
interactuando con mis computadoras
portátiles y mis dispositivos,

520
00:26:17,837 --> 00:26:23,582
sin embargo, estos dispositivos no
tenían ni idea de cómo me sentía.

521
00:26:23,625 --> 00:26:26,802
Empecé a pensar, "¿Y si este
dispositivo pudiera sentir

522
00:26:26,846 --> 00:26:29,326
que estaba estresado o que
estaba teniendo un mal día?

523
00:26:29,370 --> 00:26:31,067
¿Qué se abriría?

524
00:26:32,721 --> 00:26:34,418
Hola, estudiantes de primer grado!

525
00:26:34,462 --> 00:26:35,855
¿Cómo estás?

526
00:26:35,898 --> 00:26:37,813
¿Me das un abrazo?

527
00:26:37,857 --> 00:26:40,773
Hicimos que los niños
interactúen con la tecnología.

528
00:26:40,816 --> 00:26:42,862
Mucho de eso todavía
está en desarrollo,

529
00:26:42,905 --> 00:26:44,472
pero fue simplemente increíble.

530
00:26:44,515 --> 00:26:46,648
A quién le gustan los robots?
¡Yo!

531
00:26:46,692 --> 00:26:48,911
¿Quién quiere tener
un robot en su casa?

532
00:26:48,955 --> 00:26:51,479
¿Para qué usarías
un robot, Jack?

533
00:26:51,522 --> 00:26:56,353
Lo usaría para hacerle preguntas
matemáticas a mi mamá.

534
00:26:56,397 --> 00:26:58,181
Bueno.
¿Y tú, Theo?

535
00:26:58,225 --> 00:27:02,272
Lo usaría para
asustar a la gente.

536
00:27:02,316 --> 00:27:04,666
Todo bien.
Entonces, comienza sonriendo.

537
00:27:04,710 --> 00:27:06,625
Bonito.

538
00:27:06,668 --> 00:27:09,018
Surco de la frente

539
00:27:09,062 --> 00:27:10,890
Buena esa.
Aumento de cejas.

540
00:27:10,933 --> 00:27:12,587
Esta generación, tecnología

541
00:27:12,631 --> 00:27:15,068
los está rodeando
todo el tiempo.

542
00:27:15,111 --> 00:27:17,853
Es casi como si esperaran
tener robots en sus hogares,

543
00:27:17,897 --> 00:27:22,336
y esperan que estos robots
sean socialmente inteligentes.

544
00:27:22,379 --> 00:27:25,252
¿Qué hace que los robots sean inteligentes?

545
00:27:25,295 --> 00:27:29,648
Póngalos en una clase de
matemática o biología.

546
00:27:29,691 --> 00:27:32,259
Creo que tendrías
que entrenarlo.

547
00:27:32,302 --> 00:27:35,218
Todo bien.
Caminemos por aquí.

548
00:27:35,262 --> 00:27:37,394
Entonces, si sonríes y
levantas las cejas,

549
00:27:37,438 --> 00:27:39,005
Te va a atropellar.

550
00:27:39,048 --> 00:27:40,833
Mujer: ¡Se acerca!
¡Se acerca! Mira.

551
00:27:43,183 --> 00:27:45,272
Pero si te ves enojado,
se va a escapar.

552
00:27:46,534 --> 00:27:48,797
-¡Increíble!
-Oh, eso estuvo bien.

553
00:27:48,841 --> 00:27:52,366
Estamos entrenando computadoras
para leer y reconocer emociones.

554
00:27:52,409 --> 00:27:53,846
Listo? ¿Conjunto? ¡Ir!

555
00:27:53,889 --> 00:27:57,414
Y la respuesta hasta ahora
ha sido realmente increíble.

556
00:27:57,458 --> 00:27:59,590
La gente está integrando esto
en aplicaciones de salud,

557
00:27:59,634 --> 00:28:04,465
aplicaciones de meditación, robots, autos.

558
00:28:04,508 --> 00:28:06,728
Vamos a ver cómo se
desarrolla esto.

559
00:28:06,772 --> 00:28:09,426
♪♪

560
00:28:09,470 --> 00:28:11,602
Zilis:
Los robots pueden contener IA,

561
00:28:11,646 --> 00:28:14,388
pero el robot es solo una
instanciación física,

562
00:28:14,431 --> 00:28:16,782
y la inteligencia
artificial es el cerebro.

563
00:28:16,825 --> 00:28:19,872
Y entonces los cerebros pueden existir
puramente en sistemas basados en software.

564
00:28:19,915 --> 00:28:22,483
No necesitan tener
una forma física.

565
00:28:22,526 --> 00:28:25,094
Los robots pueden existir sin
inteligencia artificial.

566
00:28:25,138 --> 00:28:28,097
Tenemos muchos robots
tontos por ahí.

567
00:28:28,141 --> 00:28:31,753
Pero un robot tonto puede ser un robot
inteligente de la noche a la mañana,

568
00:28:31,797 --> 00:28:34,103
dado el software correcto,
dados los sensores adecuados.

569
00:28:34,147 --> 00:28:38,629
Barrat: No podemos evitar imputar
el motivo en objetos inanimados.

570
00:28:38,673 --> 00:28:40,327
Lo hacemos con máquinas

571
00:28:40,370 --> 00:28:41,502
Los trataremos como niños.

572
00:28:41,545 --> 00:28:43,330
Los trataremos como sustitutos.

573
00:28:43,373 --> 00:28:45,027
-¡Adiós!
-¡Adiós!

574
00:28:45,071 --> 00:28:48,204
Y pagaremos el precio.

575
00:28:49,292 --> 00:28:58,998
♪♪

576
00:28:59,041 --> 00:29:08,572
♪♪

577
00:29:08,616 --> 00:29:10,792
De acuerdo, bienvenido a ATR.

578
00:29:10,836 --> 00:29:18,060
♪♪

579
00:29:25,067 --> 00:29:30,594
♪♪

580
00:29:30,638 --> 00:29:36,122
♪♪

581
00:29:47,786 --> 00:29:51,485
♪♪

582
00:29:51,528 --> 00:29:52,791
Konnichiwa.

583
00:30:24,170 --> 00:30:29,436
♪♪

584
00:30:53,677 --> 00:30:56,942
♪♪

585
00:30:56,985 --> 00:30:58,682
Gourley: construimos
inteligencia artificial,

586
00:30:58,726 --> 00:31:02,948
y lo primero que queremos
hacer es replicarnos.

587
00:31:02,991 --> 00:31:05,341
Creo que el punto clave vendrá

588
00:31:05,385 --> 00:31:09,258
cuando todos los sentidos
principales se replican -

589
00:31:09,302 --> 00:31:11,130
visión...

590
00:31:11,173 --> 00:31:12,871
toque...

591
00:31:12,914 --> 00:31:14,611
oler.

592
00:31:14,655 --> 00:31:17,919
Cuando replicamos nuestros sentidos,
¿es eso cuando está vivo?

593
00:31:17,963 --> 00:31:22,010
♪♪

594
00:31:24,795 --> 00:31:27,581
♪♪

595
00:31:27,624 --> 00:31:29,104
Nolan:
Muchas de nuestras máquinas

596
00:31:29,148 --> 00:31:31,019
se están construyendo
para entendernos.

597
00:31:32,847 --> 00:31:34,805
Pero, ¿qué sucede cuando una
criatura antropomórfica

598
00:31:34,849 --> 00:31:37,417
descubre que pueden
ajustar su lealtad,

599
00:31:37,460 --> 00:31:40,028
ajustar su coraje,
ajustar su avaricia,

600
00:31:40,072 --> 00:31:42,291
ajustar su astucia?

601
00:31:42,335 --> 00:31:44,815
♪♪

602
00:31:44,859 --> 00:31:47,166
Almizcle: la persona promedio,
no ven robots asesinos

603
00:31:47,209 --> 00:31:48,645
yendo por las calles

604
00:31:48,689 --> 00:31:50,996
Son como, "¿De qué
estás hablando?"

605
00:31:51,039 --> 00:31:53,955
Hombre, queremos asegurarnos de
que no tenemos robots asesinos

606
00:31:53,999 --> 00:31:57,045
yendo por la calle.

607
00:31:57,089 --> 00:31:59,439
Una vez que van por la calle,
ya es demasiado tarde.

608
00:31:59,482 --> 00:32:05,010
♪♪

609
00:32:05,053 --> 00:32:07,099
Russell: Lo que me
preocupa ahora,

610
00:32:07,142 --> 00:32:08,578
eso me mantiene despierto,

611
00:32:08,622 --> 00:32:11,842
es el desarrollo de
armas autónomas.

612
00:32:11,886 --> 00:32:19,850
♪♪

613
00:32:19,894 --> 00:32:27,771
♪♪

614
00:32:27,815 --> 00:32:32,733
Hasta ahora, la gente ha expresado
malestar por los drones,

615
00:32:32,776 --> 00:32:35,127
que son aeronaves
pilotadas a distancia.

616
00:32:35,170 --> 00:32:39,783
♪♪

617
00:32:39,827 --> 00:32:43,309
Si tomas la cámara de un dron y
la alimentas en el sistema de IA,

618
00:32:43,352 --> 00:32:47,443
es un paso muy fácil de aquí
a armas totalmente autónomas

619
00:32:47,487 --> 00:32:50,881
que eligen sus propios objetivos
y lanzan sus propios misiles.

620
00:32:50,925 --> 00:32:58,150
♪♪

621
00:32:58,193 --> 00:33:05,374
♪♪

622
00:33:05,418 --> 00:33:12,686
♪♪

623
00:33:12,729 --> 00:33:15,080
La esperanza de vida
de un ser humano

624
00:33:15,123 --> 00:33:16,516
en ese tipo de
entorno de batalla

625
00:33:16,559 --> 00:33:20,520
se medirá en segundos.

626
00:33:20,563 --> 00:33:23,740
Cantante: En un punto, los
drones eran ciencia ficción,

627
00:33:23,784 --> 00:33:28,832
y ahora se han convertido
en lo normal en la guerra.

628
00:33:28,876 --> 00:33:33,402
Hay más de 10,000 en el inventario
militar de EE. UU. Solo.

629
00:33:33,446 --> 00:33:35,274
Pero no son solo un
fenómeno de los EE. UU.

630
00:33:35,317 --> 00:33:39,060
Hay más de 80 países
que los operan.

631
00:33:39,104 --> 00:33:41,932
Gourley: Es lógico pensar
que las personas que hacen

632
00:33:41,976 --> 00:33:44,587
de las decisiones más importantes
y difíciles en el mundo

633
00:33:44,631 --> 00:33:46,328
van a empezar a
usar e implementar

634
00:33:46,372 --> 00:33:48,591
inteligencia artificial.

635
00:33:48,635 --> 00:33:50,724
♪♪

636
00:33:50,767 --> 00:33:53,596
La Fuerza Aérea acaba de diseñar un
programa de inyección de $ 400 mil millones

637
00:33:53,640 --> 00:33:55,555
poner pilotos en el cielo,

638
00:33:55,598 --> 00:34:01,300
y una IA de $ 500, diseñada por
un par de estudiantes graduados,

639
00:34:01,343 --> 00:34:03,432
está superando a los mejores pilotos humanos

640
00:34:03,476 --> 00:34:05,782
con un algoritmo
relativamente simple.

641
00:34:05,826 --> 00:34:09,395
♪♪

642
00:34:09,438 --> 00:34:13,399
AI tendrá un gran
impacto en el ejército

643
00:34:13,442 --> 00:34:17,490
como el motor de combustión
tenía en el cambio de siglo.

644
00:34:17,533 --> 00:34:18,839
Literalmente tocará

645
00:34:18,882 --> 00:34:21,233
todo lo que hace el ejército,

646
00:34:21,276 --> 00:34:25,324
de convoys sin conductor que
entregan suministros logísticos,

647
00:34:25,367 --> 00:34:27,021
a drones no tripulados

648
00:34:27,065 --> 00:34:30,764
entregando asistencia médica,
propaganda computacional,

649
00:34:30,807 --> 00:34:34,246
tratando de ganar los corazones
y las mentes de una población.

650
00:34:34,289 --> 00:34:38,337
Y así es lógico que
quien tenga la mejor IA

651
00:34:38,380 --> 00:34:41,688
probablemente alcanzará el
dominio en este planeta.

652
00:34:45,561 --> 00:34:47,650
En algún momento a
principios del siglo XXI,

653
00:34:47,694 --> 00:34:51,219
toda la humanidad se
unió para celebrar.

654
00:34:51,263 --> 00:34:53,830
Nos maravillamos de nuestra
propia magnificencia

655
00:34:53,874 --> 00:34:56,833
como hemos dado a luz a la IA.

656
00:34:56,877 --> 00:34:58,966
¿AI?

657
00:34:59,009 --> 00:35:00,489
¿Te refieres a la
inteligencia artificial?

658
00:35:00,533 --> 00:35:01,751
Una conciencia singular

659
00:35:01,795 --> 00:35:05,886
que generó una raza
completa de máquinas.

660
00:35:05,929 --> 00:35:09,716
No sabemos quién golpeó
primero, nosotros o ellos,

661
00:35:09,759 --> 00:35:12,980
pero sabemos que fuimos nosotros
los que quemaron el cielo.

662
00:35:14,677 --> 00:35:16,766
Cantante: hay una larga
historia de ciencia ficción,

663
00:35:16,810 --> 00:35:19,987
no solo prediciendo el futuro,
sino dando forma al futuro.

664
00:35:20,030 --> 00:35:26,820
♪♪

665
00:35:26,863 --> 00:35:30,389
Arthur Conan Doyle escribiendo
antes de la Primera Guerra Mundial

666
00:35:30,432 --> 00:35:34,393
sobre el peligro de cómo los
submarinos podrían ser utilizados

667
00:35:34,436 --> 00:35:38,048
para llevar a cabo bloqueos civiles.

668
00:35:38,092 --> 00:35:40,399
En el momento en que está
escribiendo esta ficción,

669
00:35:40,442 --> 00:35:43,402
la Marina Real se burló
de Arthur Conan Doyle

670
00:35:43,445 --> 00:35:45,230
por esta absurda idea

671
00:35:45,273 --> 00:35:47,623
que los submarinos podrían
ser útiles en la guerra.

672
00:35:47,667 --> 00:35:53,412
♪♪

673
00:35:53,455 --> 00:35:55,370
Una de las cosas que hemos
visto en la historia

674
00:35:55,414 --> 00:35:58,243
es esa nuestra actitud
hacia la tecnología,

675
00:35:58,286 --> 00:36:01,942
pero también la ética, son muy
dependientes del contexto.

676
00:36:01,985 --> 00:36:03,726
Por ejemplo, el submarino...

677
00:36:03,770 --> 00:36:06,468
naciones como Gran Bretaña e
incluso los Estados Unidos

678
00:36:06,512 --> 00:36:09,863
Me pareció horrible
usar el submarino.

679
00:36:09,906 --> 00:36:13,214
De hecho, el uso alemán del submarino
para llevar a cabo ataques

680
00:36:13,258 --> 00:36:18,480
fue la razón por la cual Estados Unidos
se unió a la Primera Guerra Mundial.

681
00:36:18,524 --> 00:36:20,613
Pero mueve la línea de tiempo hacia adelante.

682
00:36:20,656 --> 00:36:23,529
Hombre: los Estados Unidos de
América fue repentinamente

683
00:36:23,572 --> 00:36:28,403
y deliberadamente atacado
por el imperio de Japón.

684
00:36:28,447 --> 00:36:32,190
Cinco horas después de Pearl
Harbor, la orden se apaga

685
00:36:32,233 --> 00:36:36,498
para cometer guerra submarina
sin restricciones contra Japón.

686
00:36:39,936 --> 00:36:44,289
Entonces Arthur Conan Doyle
resultó estar en lo cierto.

687
00:36:44,332 --> 00:36:46,856
Nolan: Esa es la gran línea
antigua sobre ciencia ficción -

688
00:36:46,900 --> 00:36:48,336
Es una mentira que dice la verdad.

689
00:36:48,380 --> 00:36:51,470
Compañeros ejecutivos,
me da un gran placer

690
00:36:51,513 --> 00:36:54,821
para presentarle el futuro de
la aplicación de la ley...

691
00:36:54,864 --> 00:36:56,562
ED-209.

692
00:36:56,605 --> 00:37:03,612
♪♪

693
00:37:03,656 --> 00:37:05,919
Esto no es solo una cuestión
de ciencia ficción.

694
00:37:05,962 --> 00:37:09,488
Se trata de lo que viene a continuación,
de lo que está sucediendo en este momento.

695
00:37:09,531 --> 00:37:13,927
♪♪

696
00:37:13,970 --> 00:37:17,496
El papel de los sistemas inteligentes
está creciendo muy rápidamente

697
00:37:17,539 --> 00:37:19,324
en la guerra.

698
00:37:19,367 --> 00:37:22,152
Todos están empujando en
el reino no tripulado.

699
00:37:22,196 --> 00:37:26,374
♪♪

700
00:37:26,418 --> 00:37:28,898
Gourley: Hoy, el Secretario de
Defensa es muy, muy claro -

701
00:37:28,942 --> 00:37:32,337
No crearemos vehículos de
ataque totalmente autónomos.

702
00:37:32,380 --> 00:37:34,643
No todos se van a sostener

703
00:37:34,687 --> 00:37:36,515
a ese mismo conjunto de valores.

704
00:37:36,558 --> 00:37:40,693
Y cuando China y Rusia comiencen
a desplegar vehículos autónomos

705
00:37:40,736 --> 00:37:45,611
que puede atacar y matar, ¿cuál es
el movimiento que vamos a hacer?

706
00:37:45,654 --> 00:37:49,963
♪♪

707
00:37:50,006 --> 00:37:51,617
Russell: No puedes decir:
"Bueno, vamos a usar

708
00:37:51,660 --> 00:37:53,967
armas autónomas para
nuestro dominio militar,

709
00:37:54,010 --> 00:37:56,796
pero nadie más los va a usar ".

710
00:37:56,839 --> 00:38:00,495
Si haces estas armas,
se usarán para atacar

711
00:38:00,539 --> 00:38:03,324
poblaciones humanas en
grandes cantidades.

712
00:38:03,368 --> 00:38:12,507
♪♪

713
00:38:12,551 --> 00:38:14,596
Las armas autónomas
son, por su naturaleza,

714
00:38:14,640 --> 00:38:16,468
Armas de destrucción masiva,

715
00:38:16,511 --> 00:38:19,862
porque no necesita un ser
humano para guiarlo o llevarlo.

716
00:38:19,906 --> 00:38:22,517
Solo necesitas una
persona, para, ya sabes,

717
00:38:22,561 --> 00:38:25,781
escribe un pequeño programa

718
00:38:25,825 --> 00:38:30,220
Simplemente captura la
complejidad de este campo.

719
00:38:30,264 --> 00:38:32,571
Es genial.
Es importante.

720
00:38:32,614 --> 00:38:34,573
Es asombroso.

721
00:38:34,616 --> 00:38:37,053
También es aterrador.

722
00:38:37,097 --> 00:38:38,968
Y se trata de confianza.

723
00:38:42,102 --> 00:38:44,583
Es una carta abierta sobre
inteligencia artificial,

724
00:38:44,626 --> 00:38:47,063
firmado por algunos de los nombres
más importantes de la ciencia.

725
00:38:47,107 --> 00:38:48,413
¿Que quieren ellos?

726
00:38:48,456 --> 00:38:50,763
Prohibir el uso de
armas autónomas.

727
00:38:50,806 --> 00:38:52,373
Mujer: el autor declaró,

728
00:38:52,417 --> 00:38:54,375
"Se han descrito armas autónomas

729
00:38:54,419 --> 00:38:56,595
como la tercera revolución
en la guerra ".

730
00:38:56,638 --> 00:38:58,553
Mujer # 2:... mil
inteligencia artificial
especialistas

731
00:38:58,597 --> 00:39:01,817
pidiendo una prohibición
global de robots asesinos.

732
00:39:01,861 --> 00:39:04,342
Tegmark:
Esta carta abierta básicamente dice

733
00:39:04,385 --> 00:39:06,344
que debemos redefinir el objetivo

734
00:39:06,387 --> 00:39:07,954
del campo de la
inteligencia artificial

735
00:39:07,997 --> 00:39:11,610
lejos de solo crear
inteligencia pura, no dirigida,

736
00:39:11,653 --> 00:39:13,655
hacia la creación de
inteligencia beneficiosa.

737
00:39:13,699 --> 00:39:16,092
El desarrollo de la IA
no se va a detener.

738
00:39:16,136 --> 00:39:18,094
Va a continuar y mejorarse.

739
00:39:18,138 --> 00:39:19,835
Si la comunidad internacional

740
00:39:19,879 --> 00:39:21,968
no está poniendo ciertos
controles sobre esto,

741
00:39:22,011 --> 00:39:24,666
las personas desarrollarán cosas
que pueden hacer cualquier cosa.

742
00:39:24,710 --> 00:39:27,365
Mujer: la carta dice que
estamos años, no décadas,

743
00:39:27,408 --> 00:39:28,714
lejos de estas
armas desplegadas.

744
00:39:28,757 --> 00:39:30,106
Entonces antes que nada...

745
00:39:30,150 --> 00:39:32,413
Tuvimos 6.000 signatarios
de esa carta,

746
00:39:32,457 --> 00:39:35,155
incluyendo muchas de las figuras
principales en el campo.

747
00:39:37,026 --> 00:39:39,942
Recibo muchas visitas
de altos funcionarios

748
00:39:39,986 --> 00:39:42,989
que desean enfatizar que el
dominio militar estadounidense

749
00:39:43,032 --> 00:39:45,731
es muy importante,
y armas autónomas

750
00:39:45,774 --> 00:39:50,083
puede ser parte del plan del
Departamento de Defensa.

751
00:39:50,126 --> 00:39:52,433
Eso es muy, muy aterrador,
porque un sistema de valores

752
00:39:52,477 --> 00:39:54,479
de desarrolladores
militares de tecnología

753
00:39:54,522 --> 00:39:57,307
no es lo mismo que un sistema
de valores de la raza humana.

754
00:39:57,351 --> 00:40:00,746
♪♪

755
00:40:00,789 --> 00:40:02,922
Markoff: Fuera de las
preocupaciones sobre la posibilidad

756
00:40:02,965 --> 00:40:06,665
que esta tecnología podría ser una
amenaza para la existencia humana,

757
00:40:06,708 --> 00:40:08,144
un número de tecnólogos

758
00:40:08,188 --> 00:40:09,972
han financiado el Future
of Life Institute

759
00:40:10,016 --> 00:40:12,192
para tratar de lidiar
con estos problemas.

760
00:40:13,193 --> 00:40:14,847
Todos estos tipos son reservados,

761
00:40:14,890 --> 00:40:16,805
y entonces es interesante
para mí verlos,

762
00:40:16,849 --> 00:40:20,635
Ya sabes, todos juntos.

763
00:40:20,679 --> 00:40:24,030
Todo lo que tenemos es el resultado
de nuestra inteligencia.

764
00:40:24,073 --> 00:40:26,641
No es el resultado de nuestros
dientes grandes y aterradores

765
00:40:26,685 --> 00:40:29,470
o nuestras grandes garras o
nuestros enormes músculos.

766
00:40:29,514 --> 00:40:32,473
Es porque en realidad somos
relativamente inteligentes.

767
00:40:32,517 --> 00:40:35,520
Y entre mi generación,
todos estamos teniendo

768
00:40:35,563 --> 00:40:37,086
lo que llamamos "vaca santa"

769
00:40:37,130 --> 00:40:39,045
o "algo sagrado"
momentos,

770
00:40:39,088 --> 00:40:41,003
porque vemos que la tecnología

771
00:40:41,047 --> 00:40:44,180
está acelerando más rápido
de lo que esperábamos

772
00:40:44,224 --> 00:40:46,705
Recuerdo estar sentado
alrededor de la mesa allí

773
00:40:46,748 --> 00:40:50,099
con algunas de las mejores y más
inteligentes mentes del mundo,

774
00:40:50,143 --> 00:40:52,058
y lo que realmente me
llamó la atención fue

775
00:40:52,101 --> 00:40:56,149
tal vez el cerebro humano no es
capaz de captar por completo

776
00:40:56,192 --> 00:40:58,673
la complejidad del mundo
al que nos enfrentamos.

777
00:40:58,717 --> 00:41:01,415
Russell:
Como está actualmente construido,

778
00:41:01,459 --> 00:41:04,766
el camino que AI sigue se
sale de un acantilado,

779
00:41:04,810 --> 00:41:07,595
y tenemos que cambiar la
dirección en la que vamos

780
00:41:07,639 --> 00:41:10,729
para que no saquemos a la
raza humana del acantilado.

781
00:41:13,558 --> 00:41:17,126
Musk: Google adquirió
DeepMind hace varios años.

782
00:41:17,170 --> 00:41:18,737
DeepMind opera

783
00:41:18,780 --> 00:41:22,088
como una subsidiaria
semi-independiente de Google.

784
00:41:22,131 --> 00:41:24,960
Lo que hace único a DeepMind

785
00:41:25,004 --> 00:41:26,919
es que DeepMind está
absolutamente enfocado

786
00:41:26,962 --> 00:41:30,313
en la creación de
superintelligence digital -

787
00:41:30,357 --> 00:41:34,056
una IA que es mucho más inteligente
que cualquier ser humano en la Tierra

788
00:41:34,100 --> 00:41:36,624
y finalmente más inteligente que todos
los humanos en la Tierra combinados.

789
00:41:36,668 --> 00:41:40,715
Esto es del sistema de aprendizaje
de refuerzo DeepMind.

790
00:41:40,759 --> 00:41:43,544
Básicamente se despierta
como un bebé recién nacido

791
00:41:43,588 --> 00:41:46,852
y se muestra la pantalla
de un videojuego Atari

792
00:41:46,895 --> 00:41:50,508
y luego tiene que aprender
a jugar el videojuego.

793
00:41:50,551 --> 00:41:55,600
No sabe nada sobre los objetos, sobre
el movimiento, sobre el tiempo.

794
00:41:57,602 --> 00:41:59,604
Solo sabe que hay una
imagen en la pantalla

795
00:41:59,647 --> 00:42:02,563
y hay un puntaje

796
00:42:02,607 --> 00:42:06,436
Entonces, si su bebé se
despertó el día en que nació

797
00:42:06,480 --> 00:42:08,090
y, por la tarde,

798
00:42:08,134 --> 00:42:11,093
estaba jugando 40 videojuegos
Atari diferentes

799
00:42:11,137 --> 00:42:15,315
en un nivel sobrehumano,
estarías aterrorizado.

800
00:42:15,358 --> 00:42:19,101
Usted diría: "Mi bebé está poseído.
Envíelo de vuelta".

801
00:42:19,145 --> 00:42:23,584
Almizcle: El sistema DeepMind
puede ganar en cualquier juego.

802
00:42:23,628 --> 00:42:27,588
Ya puede vencer a todos los
juegos originales de Atari.

803
00:42:27,632 --> 00:42:29,155
Es sobrehumano

804
00:42:29,198 --> 00:42:31,636
Juega los juegos a velocidad súper
rápida en menos de un minuto.

805
00:42:35,640 --> 00:42:37,032
♪♪

806
00:42:37,076 --> 00:42:38,643
DeepMind se volvió
a otro desafío,

807
00:42:38,686 --> 00:42:40,558
y el desafío fue el juego de Go,

808
00:42:40,601 --> 00:42:42,603
qué personas generalmente
han discutido

809
00:42:42,647 --> 00:42:45,084
ha estado más allá del
poder de las computadoras

810
00:42:45,127 --> 00:42:48,304
para jugar con los mejores
jugadores humanos de Go.

811
00:42:48,348 --> 00:42:51,264
Primero, desafiaron a un
campeón europeo de Go.

812
00:42:53,222 --> 00:42:55,834
Luego desafiaron a un
campeón de Corea del Sur.

813
00:42:55,877 --> 00:42:57,836
Hombre:
Por favor, comienza el juego.

814
00:42:57,879 --> 00:42:59,838
Y fueron capaces de
ganar las dos veces

815
00:42:59,881 --> 00:43:02,797
de una manera llamativa.

816
00:43:02,841 --> 00:43:05,017
Nolan: Estabas leyendo artículos
en New York Timesyears ago

817
00:43:05,060 --> 00:43:09,761
hablando de cómo Go tomaría
100 años para que resolvamos.

818
00:43:09,804 --> 00:43:11,110
Urbano:
La gente dijo: "Bueno, ya sabes,

819
00:43:11,153 --> 00:43:13,460
pero eso es solo una tabla.

820
00:43:13,503 --> 00:43:15,027
El póker es un arte.

821
00:43:15,070 --> 00:43:16,419
El poker implica leer personas.

822
00:43:16,463 --> 00:43:18,073
El poker implica
mentir y farolear.

823
00:43:18,117 --> 00:43:19,553
No es una cosa exacta.

824
00:43:19,597 --> 00:43:21,381
Eso nunca será, ya
sabes, una computadora.

825
00:43:21,424 --> 00:43:22,861
No puedes hacer eso ".

826
00:43:22,904 --> 00:43:24,732
Tomaron los mejores jugadores
de poker del mundo,

827
00:43:24,776 --> 00:43:27,387
y tomó siete días
para la computadora

828
00:43:27,430 --> 00:43:30,520
para comenzar a demoler a los humanos

829
00:43:30,564 --> 00:43:32,261
Entonces, es el mejor
jugador de poker del mundo,

830
00:43:32,305 --> 00:43:34,655
es el mejor jugador Go del
mundo, y el patrón aquí

831
00:43:34,699 --> 00:43:37,440
es que AI podría tomar
un poco de tiempo

832
00:43:37,484 --> 00:43:40,443
para envolver sus tentáculos en
torno a una nueva habilidad,

833
00:43:40,487 --> 00:43:44,883
pero cuando lo hace, cuando
lo consigue, es imparable.

834
00:43:44,926 --> 00:43:51,977
♪♪

835
00:43:52,020 --> 00:43:55,110
La inteligencia artificial de DeepMind
tiene acceso a nivel de administrador

836
00:43:55,154 --> 00:43:57,156
a los servidores de Google

837
00:43:57,199 --> 00:44:00,768
para optimizar el uso de energía
en los centros de datos.

838
00:44:00,812 --> 00:44:04,816
Sin embargo, esto podría ser un
caballo de Troya involuntario.

839
00:44:04,859 --> 00:44:07,253
DeepMind tiene que tener control
completo de los centros de datos,

840
00:44:07,296 --> 00:44:08,950
así que con una pequeña
actualización de software,

841
00:44:08,994 --> 00:44:10,691
que la IA podría tomar
el control completo

842
00:44:10,735 --> 00:44:12,214
de todo el sistema de Google,

843
00:44:12,258 --> 00:44:13,607
lo que significa que pueden
hacer cualquier cosa.

844
00:44:13,651 --> 00:44:14,913
Podrían ver todos tus datos.

845
00:44:14,956 --> 00:44:16,131
Podrían hacer cualquier cosa.

846
00:44:16,175 --> 00:44:18,917
♪♪

847
00:44:20,135 --> 00:44:23,051
Nos dirigimos rápidamente hacia
la superinteligencia digital

848
00:44:23,095 --> 00:44:24,313
eso excede por mucho a cualquier humano.

849
00:44:24,357 --> 00:44:26,402
Creo que es muy obvio.

850
00:44:26,446 --> 00:44:27,708
Barrat:
El problema es que no vamos a

851
00:44:27,752 --> 00:44:29,710
golpear de repente la
inteligencia a nivel humano

852
00:44:29,754 --> 00:44:33,105
y decir: "De acuerdo,
detengamos la investigación".

853
00:44:33,148 --> 00:44:34,715
Va a ir más allá de la
inteligencia a nivel humano

854
00:44:34,759 --> 00:44:36,195
en lo que se llama
"superinteligencia"

855
00:44:36,238 --> 00:44:39,459
y eso es algo más
inteligente que nosotros.

856
00:44:39,502 --> 00:44:41,287
Tegmark:
AI en el nivel sobrehumano,

857
00:44:41,330 --> 00:44:42,810
si tenemos éxito con eso, será

858
00:44:42,854 --> 00:44:46,553
de lejos, la invención más
poderosa que hemos hecho

859
00:44:46,596 --> 00:44:50,296
y la última invención
que tenemos que hacer.

860
00:44:50,339 --> 00:44:53,168
Y si creamos IA que es más
inteligente que nosotros,

861
00:44:53,212 --> 00:44:54,735
tenemos que estar
abiertos a la posibilidad

862
00:44:54,779 --> 00:44:57,520
que en realidad podríamos
perder el control sobre ellos.

863
00:44:57,564 --> 00:45:00,741
♪♪

864
00:45:00,785 --> 00:45:02,612
Russell: Digamos que
le das un objetivo,

865
00:45:02,656 --> 00:45:04,745
como curar el cáncer,
y luego descubres

866
00:45:04,789 --> 00:45:06,965
que la forma en que
elige hacer eso

867
00:45:07,008 --> 00:45:08,444
está en conflicto

868
00:45:08,488 --> 00:45:12,405
con muchas otras cosas
que te importan

869
00:45:12,448 --> 00:45:16,496
Almizcle: AI no tiene que ser malvado
para destruir a la humanidad.

870
00:45:16,539 --> 00:45:20,674
Si AI tiene un objetivo, y la humanidad
simplemente está en el camino,

871
00:45:20,718 --> 00:45:22,894
destruirá a la humanidad
como algo natural,

872
00:45:22,937 --> 00:45:25,113
sin siquiera pensarlo.
Sin resentimientos.

873
00:45:25,157 --> 00:45:27,072
Es como si estuviéramos
construyendo una carretera

874
00:45:27,115 --> 00:45:29,770
y un hormiguero pasa a
estar en el camino...

875
00:45:29,814 --> 00:45:31,467
No odiamos hormigas.

876
00:45:31,511 --> 00:45:33,165
Estamos construyendo un camino.

877
00:45:33,208 --> 00:45:34,557
Y así adiós, hormiguero.

878
00:45:34,601 --> 00:45:37,952
♪♪

879
00:45:37,996 --> 00:45:40,172
Es tentador descartar
estas preocupaciones,

880
00:45:40,215 --> 00:45:42,783
porque es algo que podría pasar

881
00:45:42,827 --> 00:45:47,396
en unas pocas décadas o 100
años, ¿por qué preocuparse?

882
00:45:47,440 --> 00:45:50,704
Russell: Pero si vuelves al
11 de septiembre de 1933,

883
00:45:50,748 --> 00:45:52,401
Ernest Rutherford,

884
00:45:52,445 --> 00:45:54,795
quien fue el físico nuclear
más conocido de su tiempo,

885
00:45:54,839 --> 00:45:56,318
dijo que la posibilidad

886
00:45:56,362 --> 00:45:58,668
de extraer cantidades
útiles de energía

887
00:45:58,712 --> 00:46:00,801
de la transmutación de
átomos, como él lo llamó,

888
00:46:00,845 --> 00:46:03,151
era lunar.

889
00:46:03,195 --> 00:46:04,849
A la mañana siguiente, Leo Szilard,

890
00:46:04,892 --> 00:46:06,502
quien era un físico
mucho más joven,

891
00:46:06,546 --> 00:46:09,984
lee esto y realmente te
molestaste y descubriste

892
00:46:10,028 --> 00:46:11,943
cómo hacer una reacción
en cadena nuclear

893
00:46:11,986 --> 00:46:13,379
solo unos meses después.

894
00:46:13,422 --> 00:46:20,560
♪♪

895
00:46:20,603 --> 00:46:23,693
Hemos gastado más
de $ 2 mil millones

896
00:46:23,737 --> 00:46:27,523
en la mayor apuesta
científica de la historia.

897
00:46:27,567 --> 00:46:30,222
Russell: Entonces cuando la gente
dice eso, "Oh, esto está tan lejos

898
00:46:30,265 --> 00:46:32,528
en el futuro, no tenemos que
preocuparnos por eso ".

899
00:46:32,572 --> 00:46:36,271
podría ser solo tres, cuatro
avances de esa magnitud

900
00:46:36,315 --> 00:46:40,275
eso nos llevará desde aquí a las
máquinas superinteligentes.

901
00:46:40,319 --> 00:46:42,974
Tegmark: si va a tomar
20 años descubrir

902
00:46:43,017 --> 00:46:45,237
cómo mantener la IA beneficiosa,

903
00:46:45,280 --> 00:46:48,849
entonces deberíamos comenzar
hoy, no en el último segundo

904
00:46:48,893 --> 00:46:51,460
cuando algunos tipos
beben Red Bull

905
00:46:51,504 --> 00:46:53,332
decide encender el interruptor
y probar la cosa.

906
00:46:53,375 --> 00:46:56,770
♪♪

907
00:46:56,814 --> 00:46:58,859
Almizcle:
Tenemos cinco años.

908
00:46:58,903 --> 00:47:00,600
Creo que la
superinteligencia digital

909
00:47:00,643 --> 00:47:03,864
sucederá en mi vida.

910
00:47:03,908 --> 00:47:05,735
100%

911
00:47:05,779 --> 00:47:07,215
Barrat: cuando esto sucede,

912
00:47:07,259 --> 00:47:09,696
estará rodeado por
un grupo de personas

913
00:47:09,739 --> 00:47:13,091
que realmente están entusiasmados
con la tecnología.

914
00:47:13,134 --> 00:47:15,571
Quieren ver que tenga éxito,
pero no están anticipando

915
00:47:15,615 --> 00:47:16,964
que puede perder el control.

916
00:47:17,008 --> 00:47:24,450
♪♪

917
00:47:25,494 --> 00:47:28,584
Dios mío, confío mucho
en mi computadora.

918
00:47:28,628 --> 00:47:30,195
Esa es una pregunta increíble.

919
00:47:30,238 --> 00:47:31,457
No confío en mi computadora.

920
00:47:31,500 --> 00:47:32,937
Si está activado, me lo quito.

921
00:47:32,980 --> 00:47:34,242
Al igual, incluso cuando está apagado,

922
00:47:34,286 --> 00:47:35,896
Todavía creo que está encendido.
¿Como tú sabes?

923
00:47:35,940 --> 00:47:37,637
Como, realmente no puedes tru--
Como, las webcams,

924
00:47:37,680 --> 00:47:39,595
no sabes si alguien
podría activarlo...

925
00:47:39,639 --> 00:47:41,249
Tú no sabes, como.

926
00:47:41,293 --> 00:47:42,903
No confío en mi computadora.

927
00:47:42,947 --> 00:47:46,907
Como, en mi teléfono,
cada vez que me preguntan

928
00:47:46,951 --> 00:47:49,475
"¿Podemos enviarle su
información a Apple?"

929
00:47:49,518 --> 00:47:50,998
cada vez, yo...

930
00:47:51,042 --> 00:47:53,087
Entonces, no confío en mi teléfono.

931
00:47:53,131 --> 00:47:56,743
Bueno. Entonces, parte de
eso es, sí, confío en eso,

932
00:47:56,786 --> 00:48:00,660
porque sería muy
difícil pasar el día

933
00:48:00,703 --> 00:48:04,011
en la forma en que nuestro mundo
está configurado sin computadoras.

934
00:48:04,055 --> 00:48:05,360
♪♪

935
00:48:10,975 --> 00:48:13,368
Dr. Herman: La confianza
es una experiencia humana.

936
00:48:13,412 --> 00:48:21,246
♪♪

937
00:48:21,289 --> 00:48:25,119
Tengo un paciente que ingresa
con un aneurisma intracraneal.

938
00:48:25,163 --> 00:48:29,994
♪♪

939
00:48:30,037 --> 00:48:31,691
Quieren mirarme a
los ojos y saber

940
00:48:31,734 --> 00:48:34,955
que pueden confiar en
esta persona con su vida.

941
00:48:34,999 --> 00:48:39,394
No estoy terriblemente
preocupado por nada.

942
00:48:39,438 --> 00:48:40,830
Bueno.
Parte de eso

943
00:48:40,874 --> 00:48:42,920
es porque tengo confianza en ti.

944
00:48:42,963 --> 00:48:50,710
♪♪

945
00:48:50,753 --> 00:48:52,233
Este procedimiento lo
estamos haciendo hoy

946
00:48:52,277 --> 00:48:57,151
Hace 20 años era
esencialmente imposible.

947
00:48:57,195 --> 00:49:00,328
Simplemente no teníamos los
materiales y las tecnologías.

948
00:49:04,202 --> 00:49:13,385
♪♪

949
00:49:13,428 --> 00:49:22,655
♪♪

950
00:49:22,698 --> 00:49:26,485
Entonces, la bobina
apenas está allí ahora.

951
00:49:26,528 --> 00:49:29,923
Es solo una pluma sosteniéndolo.

952
00:49:29,967 --> 00:49:32,012
Es un momento nervioso.

953
00:49:32,056 --> 00:49:36,147
♪♪

954
00:49:36,190 --> 00:49:37,626
Estamos justo en el purgatorio,

955
00:49:37,670 --> 00:49:40,673
purgatorio intelectual
y humanista

956
00:49:40,716 --> 00:49:43,632
y AI podría saber
exactamente qué hacer aquí.

957
00:49:43,676 --> 00:49:50,596
♪♪

958
00:49:50,639 --> 00:49:52,554
Tenemos la espiral
en el aneurisma.

959
00:49:52,598 --> 00:49:54,556
Pero no estaba
tremendamente bien

960
00:49:54,600 --> 00:49:56,428
que sabía que se quedaría,

961
00:49:56,471 --> 00:50:01,041
entonces, con un riesgo tal vez del
20% de una situación muy mala,

962
00:50:01,085 --> 00:50:04,436
Elegí simplemente
traerla de vuelta.

963
00:50:04,479 --> 00:50:05,959
Debido a mi relación con ella

964
00:50:06,003 --> 00:50:08,222
y sabiendo las
dificultades de entrar

965
00:50:08,266 --> 00:50:11,051
y teniendo el procedimiento,
considero las cosas,

966
00:50:11,095 --> 00:50:14,272
cuando debería considerar solo
la ruta más segura posible

967
00:50:14,315 --> 00:50:16,361
para lograr el éxito.

968
00:50:16,404 --> 00:50:19,755
Pero tuve que soportar 10
minutos de agonía al respecto.

969
00:50:19,799 --> 00:50:21,757
La computadora no siente nada.

970
00:50:21,801 --> 00:50:24,760
La computadora simplemente hace
lo que se supone que debe hacer,

971
00:50:24,804 --> 00:50:26,284
mejor y mejor.

972
00:50:26,327 --> 00:50:30,288
♪♪

973
00:50:30,331 --> 00:50:32,551
Quiero ser AI en este caso.

974
00:50:35,945 --> 00:50:38,861
¿Pero puede AI ser compasivo?

975
00:50:38,905 --> 00:50:43,040
♪♪

976
00:50:43,083 --> 00:50:47,827
Quiero decir, es la
pregunta de todos sobre IA.

977
00:50:47,870 --> 00:50:51,961
Somos la única encarnación
de la humanidad,

978
00:50:52,005 --> 00:50:55,269
y es difícil para nosotros
aceptar que una máquina

979
00:50:55,313 --> 00:50:58,794
puede ser compasivo y
amoroso de esa manera.

980
00:50:58,838 --> 00:51:05,105
♪♪

981
00:51:05,149 --> 00:51:07,281
Parte de mí no cree en la magia,

982
00:51:07,325 --> 00:51:09,805
pero parte de mí tiene
fe en que hay algo

983
00:51:09,849 --> 00:51:11,546
más allá de la suma de las partes,

984
00:51:11,590 --> 00:51:15,637
que hay al menos una unidad en
nuestra ascendencia compartida,

985
00:51:15,681 --> 00:51:20,338
nuestra biología compartida,
nuestra historia compartida.

986
00:51:20,381 --> 00:51:23,210
Alguna conexión más
allá de la máquina.

987
00:51:23,254 --> 00:51:30,304
♪♪

988
00:51:30,348 --> 00:51:32,567
Entonces, tienes el
otro lado de eso, es,

989
00:51:32,611 --> 00:51:34,047
¿Sabe la computadora
que es consciente?

990
00:51:34,091 --> 00:51:37,137
o puede ser consciente,
o le importa?

991
00:51:37,181 --> 00:51:40,009
¿Necesita ser consciente?

992
00:51:40,053 --> 00:51:42,011
¿Necesita ser consciente?

993
00:51:42,055 --> 00:51:47,365
♪♪

994
00:51:47,408 --> 00:51:52,848
♪♪

995
00:51:52,892 --> 00:51:56,417
No creo que un robot
pueda estar consciente.

996
00:51:56,461 --> 00:51:58,376
A menos que lo hayan
programado de esa manera.

997
00:51:58,419 --> 00:52:00,639
¿Consciente? No.

998
00:52:00,682 --> 00:52:03,163
No.
No.

999
00:52:03,207 --> 00:52:06,035
Quiero decir, creo que un robot podría
estar programado para ser consciente.

1000
00:52:06,079 --> 00:52:09,648
¿Cómo están programados
para hacer todo lo demás?

1001
00:52:09,691 --> 00:52:12,390
Esa es otra gran parte de
la inteligencia artificial,

1002
00:52:12,433 --> 00:52:15,741
es hacerlos conscientes
y hacerlos sentir.

1003
00:52:17,003 --> 00:52:22,400
♪♪

1004
00:52:22,443 --> 00:52:26,230
Lipson: En 2005, comenzamos a
tratar de construir máquinas

1005
00:52:26,273 --> 00:52:27,709
con autoconciencia

1006
00:52:27,753 --> 00:52:33,062
♪♪

1007
00:52:33,106 --> 00:52:37,284
Este robot, para empezar,
no sabía de qué se trataba.

1008
00:52:37,328 --> 00:52:40,244
Todo lo que sabía era que
necesitaba hacer algo como caminar.

1009
00:52:40,287 --> 00:52:44,073
♪♪

1010
00:52:44,117 --> 00:52:45,597
A través de prueba y error,

1011
00:52:45,640 --> 00:52:49,731
descubrió cómo caminar
usando su imaginación,

1012
00:52:49,775 --> 00:52:54,040
y luego se alejó.

1013
00:52:54,083 --> 00:52:56,390
Y luego hicimos algo muy cruel.

1014
00:52:56,434 --> 00:52:58,653
Nos cortamos una pierna y
observamos lo que sucedió.

1015
00:52:58,697 --> 00:53:03,005
♪♪

1016
00:53:03,049 --> 00:53:07,749
Al principio, no sabía muy
bien qué había pasado.

1017
00:53:07,793 --> 00:53:13,233
Pero durante un período de
un día, comenzó a flotar.

1018
00:53:13,277 --> 00:53:16,845
Y luego, hace un año, estábamos entrenando
un sistema de inteligencia artificial

1019
00:53:16,889 --> 00:53:20,240
para una demostración en vivo.

1020
00:53:20,284 --> 00:53:21,763
Queríamos mostrar cómo saludamos

1021
00:53:21,807 --> 00:53:24,113
todos estos objetos en
frente de la camara

1022
00:53:24,157 --> 00:53:27,334
y la IA podría
reconocer los objetos.

1023
00:53:27,378 --> 00:53:29,031
Y entonces, estamos
preparando esta demostración,

1024
00:53:29,075 --> 00:53:31,251
y teníamos en una pantalla
lateral esta habilidad

1025
00:53:31,295 --> 00:53:36,778
para ver a qué respondían
ciertas neuronas.

1026
00:53:36,822 --> 00:53:39,041
Y de repente notamos que
una de las neuronas

1027
00:53:39,085 --> 00:53:41,087
estaba rastreando caras

1028
00:53:41,130 --> 00:53:45,483
Nos estaba rastreando la
cara mientras nos movíamos.

1029
00:53:45,526 --> 00:53:48,616
Ahora, lo espeluznante de esto
es que nunca hemos entrenado

1030
00:53:48,660 --> 00:53:52,490
el sistema para reconocer
caras humanas,

1031
00:53:52,533 --> 00:53:55,710
y sin embargo, de alguna
manera, aprendió a hacer eso.

1032
00:53:57,973 --> 00:53:59,584
Aunque estos robots
son muy simples,

1033
00:53:59,627 --> 00:54:02,500
podemos ver que hay
algo más pasando allí.

1034
00:54:02,543 --> 00:54:05,851
No es solo programación.

1035
00:54:05,894 --> 00:54:08,462
Entonces, esto es solo el comienzo.

1036
00:54:10,377 --> 00:54:14,294
Horvitz: A menudo pienso en
esa playa en Kitty Hawk,

1037
00:54:14,338 --> 00:54:18,255
el vuelo de 1903 de
Orville y Wilbur Wright.

1038
00:54:21,214 --> 00:54:24,348
Era una especie de avión de
lona, y es de madera y hierro,

1039
00:54:24,391 --> 00:54:26,828
y se levanta del suelo durante,
qué, un minuto y 20 segundos,

1040
00:54:26,872 --> 00:54:29,091
en este día ventoso

1041
00:54:29,135 --> 00:54:31,006
antes de tocar nuevamente hacia abajo.

1042
00:54:33,270 --> 00:54:37,143
Y fue solo alrededor de
65 veranos más o menos

1043
00:54:37,186 --> 00:54:43,149
después de ese momento que tienes
un 747 despegando de JFK...

1044
00:54:43,192 --> 00:54:50,156
♪♪

1045
00:54:50,199 --> 00:54:51,984
... donde una gran preocupación
de alguien en el avión

1046
00:54:52,027 --> 00:54:55,422
podría ser si su comida
de dieta libre de sal

1047
00:54:55,466 --> 00:54:56,902
va a llegar a ellos o no.

1048
00:54:56,945 --> 00:54:58,469
Tenemos una infraestructura completa,

1049
00:54:58,512 --> 00:55:01,385
con agentes de viajes
y control de torres,

1050
00:55:01,428 --> 00:55:03,778
y todo es casual, y todo
es parte del mundo.

1051
00:55:03,822 --> 00:55:07,042
♪♪

1052
00:55:07,086 --> 00:55:09,523
En este momento, por lo que
hemos venido con máquinas

1053
00:55:09,567 --> 00:55:12,134
que piensan y resuelven problemas,
estamos en Kitty Hawk ahora.

1054
00:55:12,178 --> 00:55:13,745
Estamos en el viento.

1055
00:55:13,788 --> 00:55:17,052
Tenemos nuestros planos de
lona hecha jirones en el aire.

1056
00:55:17,096 --> 00:55:20,882
♪♪

1057
00:55:20,926 --> 00:55:23,885
¿Pero qué sucede en 65
veranos más o menos?

1058
00:55:23,929 --> 00:55:27,889
Tendremos máquinas que están
más allá del control humano.

1059
00:55:27,933 --> 00:55:30,457
¿Deberíamos preocuparnos por eso?

1060
00:55:30,501 --> 00:55:32,590
♪♪

1061
00:55:32,633 --> 00:55:34,853
No estoy seguro de que vaya a ayudar.

1062
00:55:40,337 --> 00:55:44,036
Kaplan: Nadie tiene idea hoy de
lo que significa para un robot

1063
00:55:44,079 --> 00:55:46,430
ser consciente.

1064
00:55:46,473 --> 00:55:48,649
No existe tal cosa.

1065
00:55:48,693 --> 00:55:50,172
Hay muchas personas inteligentes,

1066
00:55:50,216 --> 00:55:53,088
y les tengo un gran respeto,

1067
00:55:53,132 --> 00:55:57,528
pero la verdad es que las máquinas
son psicópatas naturales.

1068
00:55:57,571 --> 00:55:59,225
Hombre:
El miedo volvió al mercado.

1069
00:55:59,268 --> 00:56:01,706
Hombre # 2: Bajó 800, casi 1,000,
en un abrir y cerrar de ojos.

1070
00:56:01,749 --> 00:56:03,360
Quiero decir, es una
capitulación clásica.

1071
00:56:03,403 --> 00:56:04,796
Hay algunas personas
que están proponiendo

1072
00:56:04,839 --> 00:56:07,146
fue algún tipo de error
con el dedo gordo.

1073
00:56:07,189 --> 00:56:09,583
Toma el Flash Crash de 2010.

1074
00:56:09,627 --> 00:56:13,413
En cuestión de minutos,
$ 1 trillón en valor

1075
00:56:13,457 --> 00:56:15,415
se perdió en el mercado de valores.

1076
00:56:15,459 --> 00:56:18,984
Mujer: el Dow cayó casi
1,000 puntos en media hora.

1077
00:56:19,027 --> 00:56:22,553
Kaplan:
Entonces, ¿qué salió mal?

1078
00:56:22,596 --> 00:56:26,644
En ese momento, más del 60%
de todos los comercios

1079
00:56:26,687 --> 00:56:29,124
que tuvo lugar en
la bolsa de valores

1080
00:56:29,168 --> 00:56:32,693
en realidad estaban siendo
iniciadas por computadoras.

1081
00:56:32,737 --> 00:56:34,216
Hombre:
Pánico vendiendo en el camino hacia abajo,

1082
00:56:34,260 --> 00:56:35,783
y de repente se
detuvo en un centavo.

1083
00:56:35,827 --> 00:56:37,611
Hombre n. ° 2: Todo esto
sucede en tiempo real, amigos.

1084
00:56:37,655 --> 00:56:39,526
Wisz: la historia corta de lo
que sucedió en Flash Crash

1085
00:56:39,570 --> 00:56:42,399
es que los algoritmos
respondieron a los algoritmos,

1086
00:56:42,442 --> 00:56:45,358
y se compuso sobre sí
mismo una y otra vez

1087
00:56:45,402 --> 00:56:47,012
en cuestión de minutos.

1088
00:56:47,055 --> 00:56:50,972
Hombre: en un momento dado, el
mercado cayó como en un pozo.

1089
00:56:51,016 --> 00:56:54,323
No existe un organismo regulador que pueda
adaptarse lo suficientemente rápido

1090
00:56:54,367 --> 00:56:57,979
para prevenir consecuencias
potencialmente desastrosas

1091
00:56:58,023 --> 00:57:01,243
de AI operando en nuestros
sistemas financieros.

1092
00:57:01,287 --> 00:57:03,898
Son tan primordiales
para la manipulación.

1093
00:57:03,942 --> 00:57:05,639
Hablemos de la velocidad con que

1094
00:57:05,683 --> 00:57:08,076
estamos viendo que este
mercado se deteriora.

1095
00:57:08,120 --> 00:57:11,602
Ese es el tipo de AI-run-amuck
que asusta a las personas.

1096
00:57:11,645 --> 00:57:13,560
Kaplan:
Cuando les das un objetivo,

1097
00:57:13,604 --> 00:57:17,825
perseguirán implacablemente
ese objetivo.

1098
00:57:17,869 --> 00:57:20,393
¿Cuántos programas de
computadora hay como este?

1099
00:57:20,437 --> 00:57:23,483
Nadie lo sabe.

1100
00:57:23,527 --> 00:57:27,444
Kosinski: uno de los aspectos
fascinantes sobre la IA en general

1101
00:57:27,487 --> 00:57:31,970
es que nadie realmente
entiende cómo funciona.

1102
00:57:32,013 --> 00:57:36,975
Incluso las personas que crean AI
realmente no entienden completamente.

1103
00:57:37,018 --> 00:57:39,804
Porque tiene millones
de elementos,

1104
00:57:39,847 --> 00:57:41,675
se vuelve completamente imposible

1105
00:57:41,719 --> 00:57:45,113
para que un ser humano
entienda lo que está pasando.

1106
00:57:45,157 --> 00:57:52,512
♪♪

1107
00:57:52,556 --> 00:57:56,037
Grassegger: Microsoft había establecido
esta inteligencia artificial

1108
00:57:56,081 --> 00:57:59,127
llamado Tay en Twitter,
que era un chatbot.

1109
00:58:00,912 --> 00:58:02,696
Comenzaron por la mañana,

1110
00:58:02,740 --> 00:58:06,526
y Tay estaba empezando a tuitear
y aprender de las cosas

1111
00:58:06,570 --> 00:58:10,835
que le estaba siendo enviado
por otra gente de Twitter.

1112
00:58:10,878 --> 00:58:13,272
Porque algunas personas,
como trolls, lo atacaron,

1113
00:58:13,315 --> 00:58:18,582
en 24 horas, el robot de Microsoft se
convirtió en una persona terrible.

1114
00:58:18,625 --> 00:58:21,367
Tuvieron que literalmente
sacar a Tay de la red

1115
00:58:21,410 --> 00:58:24,718
porque se había convertido
en un monstruo.

1116
00:58:24,762 --> 00:58:30,550
Una persona misántropa, racista y
horrible que nunca querrías conocer.

1117
00:58:30,594 --> 00:58:32,857
Y nadie había previsto esto.

1118
00:58:35,337 --> 00:58:38,602
La idea de AI es que no
estamos diciendo exactamente

1119
00:58:38,645 --> 00:58:42,780
cómo lograr un resultado
o una meta determinados.

1120
00:58:42,823 --> 00:58:46,435
AI se desarrolla solo.

1121
00:58:46,479 --> 00:58:48,829
Nolan: estamos preocupados
por IA superinteligente,

1122
00:58:48,873 --> 00:58:52,790
el maestro jugador de
ajedrez que nos superará,

1123
00:58:52,833 --> 00:58:55,923
pero AI no tendrá que
ser tan inteligente

1124
00:58:55,967 --> 00:59:00,145
tener efectos masivamente disruptivos
en la civilización humana.

1125
00:59:00,188 --> 00:59:01,886
Hemos visto durante el siglo pasado

1126
00:59:01,929 --> 00:59:05,150
no necesariamente se necesita un
genio para noquear la historia

1127
00:59:05,193 --> 00:59:06,804
en una dirección particular,

1128
00:59:06,847 --> 00:59:09,589
y no le tomará a un genio
AI hacer lo mismo.

1129
00:59:09,633 --> 00:59:13,158
Las noticias falsas sobre las
elecciones generaron más compromiso

1130
00:59:13,201 --> 00:59:17,075
en Facebook que las
mejores historias reales.

1131
00:59:17,118 --> 00:59:21,079
Facebook realmente es el
elefante en la habitación.

1132
00:59:21,122 --> 00:59:23,777
Kosinski:
AI ejecutando noticias de Facebook:

1133
00:59:23,821 --> 00:59:28,347
La tarea de AI es mantener a
los usuarios interesados,

1134
00:59:28,390 --> 00:59:29,827
pero nadie realmente entiende

1135
00:59:29,870 --> 00:59:34,832
exactamente cómo esta IA
está logrando este objetivo.

1136
00:59:34,875 --> 00:59:38,792
Nolan: Facebook está construyendo una elegante
pared de espejos a nuestro alrededor.

1137
00:59:38,836 --> 00:59:41,665
Un espejo que podemos preguntar,
"¿Quién es el más justo de todos?"

1138
00:59:41,708 --> 00:59:45,016
y responderá, "Tú, tú"
Tiempo y otra vez

1139
00:59:45,059 --> 00:59:48,193
y lentamente comienzan a deformar
nuestro sentido de la realidad,

1140
00:59:48,236 --> 00:59:53,502
deformar nuestro sentido de la política,
la historia, los eventos globales,

1141
00:59:53,546 --> 00:59:57,028
hasta determinar lo que es
verdadero y lo que no es cierto,

1142
00:59:57,071 --> 00:59:58,943
es virtualmente imposible.

1143
01:00:01,032 --> 01:00:03,861
El problema es que
AI no entiende eso.

1144
01:00:03,904 --> 01:00:08,039
AI acaba de tener una misión -
maximizar el compromiso del usuario,

1145
01:00:08,082 --> 01:00:10,041
y lo logró.

1146
01:00:10,084 --> 01:00:13,653
Cerca de 2 mil millones de
personas pasan casi una hora

1147
01:00:13,697 --> 01:00:17,831
en promedio, un día básicamente
interactuando con la IA

1148
01:00:17,875 --> 01:00:21,530
eso está dando forma
a su experiencia.

1149
01:00:21,574 --> 01:00:24,664
Incluso los ingenieros de Facebook,
no les gustan las noticias falsas.

1150
01:00:24,708 --> 01:00:26,666
Es un mal negocio.

1151
01:00:26,710 --> 01:00:28,015
Quieren deshacerse de
las noticias falsas.

1152
01:00:28,059 --> 01:00:29,974
Es simplemente muy
difícil de hacer porque,

1153
01:00:30,017 --> 01:00:32,324
¿Cómo reconoces las
noticias como falsas?

1154
01:00:32,367 --> 01:00:34,456
si no puedes leer todas esas
noticias personalmente?

1155
01:00:34,500 --> 01:00:39,418
Hay tanta desinformación activa

1156
01:00:39,461 --> 01:00:41,115
y está empaquetado muy bien,

1157
01:00:41,159 --> 01:00:44,553
y se ve igual cuando lo ves
en una página de Facebook

1158
01:00:44,597 --> 01:00:47,426
o enciendes tu televisor.

1159
01:00:47,469 --> 01:00:49,210
Nolan:
No es terriblemente sofisticado

1160
01:00:49,254 --> 01:00:51,691
pero es terriblemente poderoso.

1161
01:00:51,735 --> 01:00:54,346
Y lo que significa es que
tu visión del mundo,

1162
01:00:54,389 --> 01:00:56,435
que, hace 20 años, se determinó,

1163
01:00:56,478 --> 01:01:00,004
si viste las noticias nocturnas,
por tres redes diferentes,

1164
01:01:00,047 --> 01:01:02,528
los tres presentadores que
trataron de hacer las cosas bien.

1165
01:01:02,571 --> 01:01:04,225
Podría haber tenido un pequeño
sesgo de una forma u otra,

1166
01:01:04,269 --> 01:01:05,923
pero, en general, todos
podríamos estar de acuerdo

1167
01:01:05,966 --> 01:01:08,273
en una realidad objetiva.

1168
01:01:08,316 --> 01:01:10,754
Bueno, esa objetividad se fue,

1169
01:01:10,797 --> 01:01:13,757
y Facebook lo ha
aniquilado por completo.

1170
01:01:13,800 --> 01:01:17,064
♪♪

1171
01:01:17,108 --> 01:01:19,197
Si la mayoría de su comprensión
de cómo funciona el mundo

1172
01:01:19,240 --> 01:01:20,807
se deriva de Facebook,

1173
01:01:20,851 --> 01:01:23,418
facilitado por
software algorítmico

1174
01:01:23,462 --> 01:01:27,118
que intenta mostrarle las
noticias que desea ver,

1175
01:01:27,161 --> 01:01:28,815
eso es algo terriblemente
peligroso.

1176
01:01:28,859 --> 01:01:33,080
Y la idea de que no solo hemos
puesto eso en movimiento,

1177
01:01:33,124 --> 01:01:37,258
pero permitió a los actores de mala
fe acceder a esa información...

1178
01:01:37,302 --> 01:01:39,565
Quiero decir, esta es una
receta para el desastre.

1179
01:01:39,608 --> 01:01:43,134
♪♪

1180
01:01:43,177 --> 01:01:45,876
Urban: Creo que definitivamente
habrá muchos malos actores

1181
01:01:45,919 --> 01:01:48,922
tratando de manipular
el mundo con IA

1182
01:01:48,966 --> 01:01:52,143
2016 fue un ejemplo
perfecto de una elección

1183
01:01:52,186 --> 01:01:55,015
donde había mucha IA produciendo
muchas noticias falsas

1184
01:01:55,059 --> 01:01:58,323
y distribuirlo para un
propósito, para un resultado.

1185
01:01:59,890 --> 01:02:02,283
Señoras y señores,
honorables colegas...

1186
01:02:02,327 --> 01:02:04,546
es mi privilegio hablarles hoy

1187
01:02:04,590 --> 01:02:07,985
sobre el poder de los grandes
datos y la psicografía

1188
01:02:08,028 --> 01:02:09,682
en el proceso electoral

1189
01:02:09,726 --> 01:02:12,206
y, específicamente, para
hablar sobre el trabajo

1190
01:02:12,250 --> 01:02:14,513
que contribuimos al Senador Cruz

1191
01:02:14,556 --> 01:02:16,558
campaña primaria presidencial.

1192
01:02:16,602 --> 01:02:19,910
Nolan: Cambridge Analytica surgió
silenciosamente como una empresa

1193
01:02:19,953 --> 01:02:21,563
que, según su propio bombo,

1194
01:02:21,607 --> 01:02:26,307
tiene la capacidad de usar esta
tremenda cantidad de datos

1195
01:02:26,351 --> 01:02:30,137
con el fin de efectuar
un cambio social.

1196
01:02:30,181 --> 01:02:33,358
En 2016, tenían tres
clientes principales.

1197
01:02:33,401 --> 01:02:34,794
Ted Cruz fue uno de ellos.

1198
01:02:34,838 --> 01:02:37,884
Es fácil olvidar eso,
hace solo 18 meses,

1199
01:02:37,928 --> 01:02:41,148
El senador Cruz fue uno de los
candidatos menos populares

1200
01:02:41,192 --> 01:02:42,846
buscando nominación.

1201
01:02:42,889 --> 01:02:47,241
Entonces, lo que no fue posible
tal vez, como, hace 10 o 15 años,

1202
01:02:47,285 --> 01:02:49,374
fue que puedes enviar noticias falsas

1203
01:02:49,417 --> 01:02:52,420
exactamente a las personas
a las que desea enviarlo.

1204
01:02:52,464 --> 01:02:56,685
Y luego puedes ver cómo
reacciona él o ella en Facebook

1205
01:02:56,729 --> 01:02:58,905
y luego ajustar esa información

1206
01:02:58,949 --> 01:03:01,778
de acuerdo con los
comentarios que tienes.

1207
01:03:01,821 --> 01:03:03,257
Entonces puedes comenzar a desarrollar

1208
01:03:03,301 --> 01:03:06,130
tipo de gestión en tiempo
real de una población.

1209
01:03:06,173 --> 01:03:08,697
En este caso, hemos zonificado en

1210
01:03:08,741 --> 01:03:10,699
en un grupo que hemos
llamado "Persuasión".

1211
01:03:10,743 --> 01:03:13,746
Estas son personas que
definitivamente van a votar,

1212
01:03:13,790 --> 01:03:16,705
al caucus, pero necesitan
mudarse del centro

1213
01:03:16,749 --> 01:03:18,490
un poco más hacia la derecha.

1214
01:03:18,533 --> 01:03:19,708
para apoyar a Cruz.

1215
01:03:19,752 --> 01:03:22,059
Necesitan un mensaje de persuasión.

1216
01:03:22,102 --> 01:03:23,800
"Derechos de armas", he seleccionado.

1217
01:03:23,843 --> 01:03:25,802
Eso reduce el campo un poco más.

1218
01:03:25,845 --> 01:03:29,066
Y ahora sabemos que necesitamos un
mensaje sobre los derechos de armas,

1219
01:03:29,109 --> 01:03:31,111
tiene que ser un
mensaje de persuasión,

1220
01:03:31,155 --> 01:03:32,591
y necesita ser matizado

1221
01:03:32,634 --> 01:03:34,201
de acuerdo con la
cierta personalidad

1222
01:03:34,245 --> 01:03:36,029
en lo que estamos interesados

1223
01:03:36,073 --> 01:03:39,946
A través de las redes sociales, hay
una cantidad infinita de información

1224
01:03:39,990 --> 01:03:42,514
que puedes juntar a una persona

1225
01:03:42,557 --> 01:03:45,734
Tenemos cerca de 4.000 o
5.000 puntos de datos

1226
01:03:45,778 --> 01:03:48,563
en cada adulto en
los Estados Unidos.

1227
01:03:48,607 --> 01:03:51,915
Grassegger: se trata de
apuntar al individuo.

1228
01:03:51,958 --> 01:03:54,352
Es como un arma,
que se puede usar

1229
01:03:54,395 --> 01:03:55,962
en la dirección totalmente equivocada.

1230
01:03:56,006 --> 01:03:58,051
Ese es el problema con
todos estos datos.

1231
01:03:58,095 --> 01:04:02,229
Es casi como si construyéramos la
bala antes de construir el arma.

1232
01:04:02,273 --> 01:04:04,362
Ted Cruz empleó nuestros datos,

1233
01:04:04,405 --> 01:04:06,407
nuestras ideas conductuales.

1234
01:04:06,451 --> 01:04:09,541
Empezó desde una
base de menos del 5%

1235
01:04:09,584 --> 01:04:15,590
y tenía un ritmo muy lento y constante
pero firme aumento a más del 35%,

1236
01:04:15,634 --> 01:04:17,157
haciéndolo, obviamente,

1237
01:04:17,201 --> 01:04:20,465
el segundo contendiente más
amenazante en la carrera.

1238
01:04:20,508 --> 01:04:23,120
Ahora, claramente, la
campaña de Cruz ya terminó,

1239
01:04:23,163 --> 01:04:24,904
pero lo que puedo decirte

1240
01:04:24,948 --> 01:04:28,168
es el de los dos candidatos
que quedan en esta elección,

1241
01:04:28,212 --> 01:04:30,867
uno de ellos está usando
estas tecnologías.

1242
01:04:32,564 --> 01:04:35,959
Yo, Donald John Trump,
juro solemnemente

1243
01:04:36,002 --> 01:04:38,222
que voy a ejecutar fielmente

1244
01:04:38,265 --> 01:04:42,226
la oficina del presidente
de los Estados Unidos.

1245
01:04:42,269 --> 01:04:46,273
♪♪

1246
01:04:48,275 --> 01:04:50,234
Nolan: las elecciones son
un ejercicio marginal.

1247
01:04:50,277 --> 01:04:53,237
No requiere una IA
muy sofisticada

1248
01:04:53,280 --> 01:04:57,719
para tener un impacto
desproporcionado.

1249
01:04:57,763 --> 01:05:02,550
Antes de Trump, Brexit era
otro supuesto cliente.

1250
01:05:02,594 --> 01:05:04,726
Bueno, de 20 minutos a 5:00,

1251
01:05:04,770 --> 01:05:08,730
ahora podemos decir la
decisión tomada en 1975

1252
01:05:08,774 --> 01:05:10,950
por este país para
unirse al mercado común

1253
01:05:10,994 --> 01:05:15,999
ha sido revertido por este
referéndum para salir de la UE.

1254
01:05:16,042 --> 01:05:19,828
Nolan: Cambridge Analytica
supuestamente usa AI

1255
01:05:19,872 --> 01:05:23,267
para empujar a través de dos
de las piezas más temblorosas

1256
01:05:23,310 --> 01:05:27,967
de cambio político en
los últimos 50 años.

1257
01:05:28,011 --> 01:05:30,709
Estos son eventos de época, y
si creemos en la publicidad,

1258
01:05:30,752 --> 01:05:33,755
están conectados directamente
a una pieza de software,

1259
01:05:33,799 --> 01:05:37,194
esencialmente, creado por
un profesor en Stanford.

1260
01:05:37,237 --> 01:05:41,415
♪♪

1261
01:05:41,459 --> 01:05:43,635
Kosinski:
En 2013, describí

1262
01:05:43,678 --> 01:05:45,593
que lo que están
haciendo es posible

1263
01:05:45,637 --> 01:05:49,293
y advirtió contra esto
sucediendo en el futuro.

1264
01:05:49,336 --> 01:05:51,382
Grassegger:
En ese momento, Michal Kosinski

1265
01:05:51,425 --> 01:05:52,949
era un joven investigador polaco

1266
01:05:52,992 --> 01:05:54,994
trabajando en el
Centro de Psicometría.

1267
01:05:55,038 --> 01:06:00,217
Entonces, lo que Michal había hecho era reunir
el mayor conjunto de datos de la historia

1268
01:06:00,260 --> 01:06:03,481
de cómo las personas se
comportan en Facebook.

1269
01:06:03,524 --> 01:06:07,789
Kosinski:
La psicometría está intentando
para medir los rasgos psicológicos,

1270
01:06:07,833 --> 01:06:09,922
como personalidad, inteligencia,

1271
01:06:09,966 --> 01:06:11,880
opiniones políticas, etc.

1272
01:06:11,924 --> 01:06:15,058
Ahora, tradicionalmente,
esos rasgos se midieron

1273
01:06:15,101 --> 01:06:17,712
usando pruebas y preguntas.

1274
01:06:17,756 --> 01:06:19,410
Nolan: prueba de personalidad
lo más benigno

1275
01:06:19,453 --> 01:06:20,715
posiblemente podrías pensar en

1276
01:06:20,759 --> 01:06:22,065
Algo que no necesariamente tiene

1277
01:06:22,108 --> 01:06:24,197
mucha utilidad, ¿verdad?

1278
01:06:24,241 --> 01:06:27,331
Kosinski: Nuestra idea era que
en lugar de pruebas y preguntas,

1279
01:06:27,374 --> 01:06:30,029
simplemente podríamos mirar las huellas
digitales de los comportamientos

1280
01:06:30,073 --> 01:06:32,553
que todos estamos dejando atrás

1281
01:06:32,597 --> 01:06:34,903
para entender la apertura,

1282
01:06:34,947 --> 01:06:37,732
Conciencia, neuroticismo.

1283
01:06:37,776 --> 01:06:39,560
Grassegger: puede comprar
fácilmente datos personales,

1284
01:06:39,604 --> 01:06:43,129
como dónde vives, qué
membresías de club has probado,

1285
01:06:43,173 --> 01:06:45,044
a qué gimnasio vas.

1286
01:06:45,088 --> 01:06:47,873
En realidad, hay mercados
para datos personales.

1287
01:06:47,916 --> 01:06:49,918
Nolan: Resulta que podemos
descubrir muchísimo

1288
01:06:49,962 --> 01:06:51,442
sobre lo que vas a hacer

1289
01:06:51,485 --> 01:06:55,750
basado en un muy, muy pequeño
conjunto de información.

1290
01:06:55,794 --> 01:06:58,275
Kosinski: Estamos entrenando
redes de aprendizaje profundo

1291
01:06:58,318 --> 01:07:01,278
para inferir rasgos íntimos,

1292
01:07:01,321 --> 01:07:04,759
las opiniones políticas de las
personas, la personalidad,

1293
01:07:04,803 --> 01:07:07,806
inteligencia, orientación sexual

1294
01:07:07,849 --> 01:07:10,504
solo por una imagen de
la cara de alguien.

1295
01:07:10,548 --> 01:07:17,033
♪♪

1296
01:07:17,076 --> 01:07:20,645
Ahora piense en países que no son
tan libres y de mente abierta.

1297
01:07:20,688 --> 01:07:23,300
Si puedes revelar las opiniones
religiosas de las personas

1298
01:07:23,343 --> 01:07:25,954
o puntos de vista políticos
u orientación sexual

1299
01:07:25,998 --> 01:07:28,740
basado en solo imágenes de perfil,

1300
01:07:28,783 --> 01:07:33,310
esto podría ser literalmente
una cuestión de vida o muerte.

1301
01:07:33,353 --> 01:07:36,965
♪♪

1302
01:07:37,009 --> 01:07:39,751
Creo que no hay vuelta atrás.

1303
01:07:42,145 --> 01:07:44,321
¿Sabes lo que es la
prueba de Turing?

1304
01:07:44,364 --> 01:07:48,977
Es cuando un humano interactúa
con una computadora,

1305
01:07:49,021 --> 01:07:50,805
y si el humano no sabe
que están interactuando

1306
01:07:50,849 --> 01:07:52,546
con una computadora,

1307
01:07:52,590 --> 01:07:54,026
la prueba es aprobada

1308
01:07:54,070 --> 01:07:57,247
Y en los próximos días,

1309
01:07:57,290 --> 01:07:59,684
serás el componente humano
en una prueba de Turing.

1310
01:07:59,727 --> 01:08:02,295
Mierda. Sí, eso es correcto, Caleb.

1311
01:08:02,339 --> 01:08:04,080
Lo tienes.

1312
01:08:04,123 --> 01:08:06,865
Porque si se pasa esa prueba,

1313
01:08:06,908 --> 01:08:10,825
estás en el centro del
mayor evento científico

1314
01:08:10,869 --> 01:08:12,958
en la historia del hombre

1315
01:08:13,001 --> 01:08:14,612
Si has creado una
máquina consciente,

1316
01:08:14,655 --> 01:08:17,615
no es la historia del hombre--

1317
01:08:17,658 --> 01:08:19,356
Esa es la historia
de los dioses.

1318
01:08:19,399 --> 01:08:26,798
♪♪

1319
01:08:26,841 --> 01:08:28,452
Nolan: es casi como que
la tecnología es un dios

1320
01:08:28,495 --> 01:08:29,975
en sí mismo.

1321
01:08:30,018 --> 01:08:33,152
♪♪

1322
01:08:33,196 --> 01:08:35,241
Como el clima
No podemos impactarlo.

1323
01:08:35,285 --> 01:08:39,593
No podemos desacelerarlo.
No podemos detenerlo.

1324
01:08:39,637 --> 01:08:43,249
Nos sentimos impotentes.

1325
01:08:43,293 --> 01:08:44,685
Kurzweil:
Si pensamos en Dios

1326
01:08:44,729 --> 01:08:46,687
como una cantidad ilimitada
de inteligencia,

1327
01:08:46,731 --> 01:08:48,167
lo más cerca que podemos llegar a eso

1328
01:08:48,211 --> 01:08:50,474
es evolucionando nuestra
propia inteligencia

1329
01:08:50,517 --> 01:08:55,566
al fusionarse con la inteligencia
artificial que estamos creando.

1330
01:08:55,609 --> 01:08:58,003
Almizcle:
Hoy, nuestras computadoras, teléfonos,

1331
01:08:58,046 --> 01:09:01,615
las aplicaciones nos dan
una capacidad sobrehumana.

1332
01:09:01,659 --> 01:09:04,662
Entonces, como dice la antigua máxima,
si no puedes vencerlos, únete a ellos.

1333
01:09:06,968 --> 01:09:09,971
Kaliouby: Se trata de una asociación
entre humanos y máquinas.

1334
01:09:10,015 --> 01:09:11,669
Quiero decir, ya vemos
cómo, ya sabes,

1335
01:09:11,712 --> 01:09:14,933
nuestros teléfonos, por ejemplo, actúan
como prótesis de memoria, ¿verdad?

1336
01:09:14,976 --> 01:09:17,196
Ya no tengo que recordar
tu número de teléfono

1337
01:09:17,240 --> 01:09:19,198
porque está en mi teléfono.

1338
01:09:19,242 --> 01:09:22,070
Se trata de máquinas que aumentan
nuestras habilidades humanas,

1339
01:09:22,114 --> 01:09:25,248
en lugar de, como,
desplazarlos por completo.

1340
01:09:25,291 --> 01:09:27,380
Nolan: si miras todos los
objetos que han dado el salto

1341
01:09:27,424 --> 01:09:30,122
de analógico a digital en
los últimos 20 años...

1342
01:09:30,166 --> 01:09:32,080
es mucho

1343
01:09:32,124 --> 01:09:35,388
Somos el último objeto analógico
en un universo digital.

1344
01:09:35,432 --> 01:09:36,911
Y el problema con
eso, por supuesto,

1345
01:09:36,955 --> 01:09:40,567
es que la entrada / salida
de datos es muy limitada.

1346
01:09:40,611 --> 01:09:42,613
Es esto.
Son estos.

1347
01:09:42,656 --> 01:09:45,355
Zilis:
Nuestros ojos son bastante buenos.

1348
01:09:45,398 --> 01:09:48,445
Somos capaces de tomar
mucha información visual.

1349
01:09:48,488 --> 01:09:52,536
Pero nuestra producción de
información es muy, muy, muy baja.

1350
01:09:52,579 --> 01:09:55,669
La razón por la cual esto es importante -
Si imaginamos un escenario

1351
01:09:55,713 --> 01:09:59,543
donde la IA desempeña un papel
más destacado en las sociedades,

1352
01:09:59,586 --> 01:10:02,023
queremos buenas maneras de
interactuar con esta tecnología

1353
01:10:02,067 --> 01:10:04,983
para que termine
incrementándonos.

1354
01:10:05,026 --> 01:10:07,812
♪♪

1355
01:10:07,855 --> 01:10:09,553
Musk: creo que es
increíblemente importante

1356
01:10:09,596 --> 01:10:12,295
que AI no sea "otro".

1357
01:10:12,338 --> 01:10:14,862
Debemos ser nosotros.

1358
01:10:14,906 --> 01:10:18,605
Y podría estar equivocado
sobre lo que estoy diciendo.

1359
01:10:18,649 --> 01:10:20,216
Estoy ciertamente abierto a las ideas

1360
01:10:20,259 --> 01:10:23,915
si alguien puede sugerir
un camino que es mejor.

1361
01:10:23,958 --> 01:10:27,266
Pero creo que realmente tendremos
que fusionarnos con AI

1362
01:10:27,310 --> 01:10:28,963
o ser dejado atrás.

1363
01:10:29,007 --> 01:10:36,362
♪♪

1364
01:10:36,406 --> 01:10:38,756
Gourley: es difícil pensar
en desconectar un sistema

1365
01:10:38,799 --> 01:10:41,802
que se distribuye por
todo el planeta,

1366
01:10:41,846 --> 01:10:45,806
que se distribuye ahora a
través del sistema solar.

1367
01:10:45,850 --> 01:10:49,375
No puedes simplemente,
ya sabes, cerrar eso.

1368
01:10:49,419 --> 01:10:51,290
Nolan:
Hemos abierto la caja de Pandora.

1369
01:10:51,334 --> 01:10:55,642
Hemos desatado fuerzas que no podemos
controlar, no podemos parar.

1370
01:10:55,686 --> 01:10:57,296
Estamos en medio de
esencialmente crear

1371
01:10:57,340 --> 01:10:59,516
una nueva forma de vida en la Tierra.

1372
01:10:59,559 --> 01:11:05,826
♪♪

1373
01:11:05,870 --> 01:11:07,611
Russell:
No sabemos lo que sucede después.

1374
01:11:07,654 --> 01:11:10,353
No sabemos qué forma el
intelecto de una máquina

1375
01:11:10,396 --> 01:11:14,531
será cuando ese intelecto está más
allá de las capacidades humanas.

1376
01:11:14,574 --> 01:11:17,360
Simplemente no es
algo que es posible.

1377
01:11:17,403 --> 01:11:24,715
♪♪

1378
01:11:24,758 --> 01:11:26,934
El menos terrorífico futuro
que puedo pensar es uno

1379
01:11:26,978 --> 01:11:29,633
donde al menos hemos
democratizado AI.

1380
01:11:31,548 --> 01:11:34,159
Porque si una empresa o un
pequeño grupo de personas

1381
01:11:34,202 --> 01:11:37,031
se las arregla para desarrollar
superinteligencia digital divina,

1382
01:11:37,075 --> 01:11:40,339
ellos pueden dominar el mundo.

1383
01:11:40,383 --> 01:11:42,210
Al menos cuando hay
un dictador malvado,

1384
01:11:42,254 --> 01:11:44,343
ese humano va a morir,

1385
01:11:44,387 --> 01:11:46,998
pero, para una IA,
no habría muerte.

1386
01:11:47,041 --> 01:11:49,392
Viviría para siempre.

1387
01:11:49,435 --> 01:11:51,916
Y luego tienes un
dictador inmortal

1388
01:11:51,959 --> 01:11:53,570
de lo cual nunca podremos escapar.

1389
01:11:53,613 --> 01:12:02,100
♪♪

1390
01:12:02,143 --> 01:12:10,587
♪♪

1391
01:12:10,630 --> 01:12:19,160
♪♪

1392
01:12:19,204 --> 01:12:27,647
♪♪

1393
01:12:27,691 --> 01:12:36,221
♪♪

1394
01:12:36,264 --> 01:12:44,838
♪♪

1395
01:12:51,845 --> 01:12:53,717
Mujer en P.A .:
Alan. Macchiato.

1396
01:13:10,951 --> 01:13:17,610
♪♪

1397
01:13:17,654 --> 01:13:24,269
♪♪

1398
01:13:24,312 --> 01:13:30,884
♪♪

1399
01:13:30,928 --> 01:13:37,543
♪♪

1400
01:13:37,587 --> 01:13:44,245
♪♪

1401
01:13:44,289 --> 01:13:50,817
♪♪

1402
01:13:50,861 --> 01:13:57,520
♪♪

1403
01:13:57,563 --> 01:14:04,178
♪♪

1404
01:14:04,222 --> 01:14:10,794
♪♪

1405
01:14:10,837 --> 01:14:17,496
♪♪

1406
01:14:17,540 --> 01:14:24,111
♪♪

1407
01:14:24,155 --> 01:14:30,727
♪♪

1408
01:14:30,770 --> 01:14:37,473
♪♪

1409
01:14:37,516 --> 01:14:44,044
♪♪

1410
01:14:44,088 --> 01:14:47,570
Mujer:
¿Hola?

1411
01:14:47,613 --> 01:14:54,838
♪♪

1412
01:14:54,881 --> 01:15:02,236
♪♪

1413
01:15:02,280 --> 01:15:09,548
♪♪

1414
01:15:09,592 --> 01:15:16,773
♪♪

1415
01:15:16,816 --> 01:15:18,688
♪ Sí, sí

1416
01:15:18,731 --> 01:15:20,080
♪ Sí, sí

1417
01:15:20,124 --> 01:15:27,261
♪♪

1418
01:15:27,305 --> 01:15:34,442
♪♪

1419
01:15:34,486 --> 01:15:41,580
♪♪

1420
01:15:41,624 --> 01:15:43,234
♪ Sí, sí

1421
01:15:43,277 --> 01:15:45,541
♪ Sí, sí

1422
01:15:45,584 --> 01:15:51,764
♪♪

1423
01:15:51,808 --> 01:15:57,988
♪♪

1424
01:15:58,031 --> 01:16:04,342
♪♪

1425
01:16:04,385 --> 01:16:10,609
♪♪

1426
01:16:10,653 --> 01:16:13,046
¿Hola?

1427
01:16:13,090 --> 01:16:22,012
♪♪

1428
01:16:22,055 --> 01:16:31,021
♪♪

1429
01:16:31,064 --> 01:16:39,986
♪♪

1430
01:16:40,030 --> 01:16:48,952
♪♪

1431
01:16:48,995 --> 01:16:57,961
♪♪

1432
01:16:58,004 --> 01:17:06,926
♪♪

1433
01:17:06,970 --> 01:17:15,892
♪♪

1434
01:17:15,935 --> 01:17:24,901
♪♪

1435
01:17:24,944 --> 01:17:33,910
♪♪

1436
01:17:33,953 --> 01:17:40,960
♪♪