1
00:00:24,465 --> 00:00:27,218
La inteligencia artificial
es impresionante.
2
00:00:28,361 --> 00:00:31,489
Muy bien, ya sube. Buena formación.
3
00:00:33,116 --> 00:00:36,685
Tiene el potencial de eliminar la pobreza,
4
00:00:36,786 --> 00:00:38,705
crear medicamentos nuevos
5
00:00:39,330 --> 00:00:41,583
y hacer el mundo más pacífico.
6
00:00:46,087 --> 00:00:47,088
Buen trabajo.
7
00:00:49,883 --> 00:00:53,428
Pero hay muchos riesgos en el camino.
8
00:01:04,773 --> 00:01:09,593
Con la inteligencia artificial,
creamos una inteligencia no humana
9
00:01:09,694 --> 00:01:11,863
que es muy impredecible.
10
00:01:14,407 --> 00:01:16,433
A medida que se potencia,
11
00:01:16,534 --> 00:01:19,728
¿dónde quedan límites
que se van a trazar con la IA
12
00:01:19,829 --> 00:01:22,665
en cuanto a si vamos a usarla o no?
13
00:01:25,001 --> 00:01:28,487
No hay mayor punto de partida
en este asunto
14
00:01:28,588 --> 00:01:31,049
que la aplicación militar.
15
00:01:34,010 --> 00:01:38,890
El campo de batalla se ha convertido
en el área del software y hardware.
16
00:01:41,059 --> 00:01:42,918
Objetivo adquirido...
17
00:01:43,019 --> 00:01:46,005
Los militares
se apuran para desarrollar IA
18
00:01:46,106 --> 00:01:48,399
antes que sus adversarios.
19
00:01:49,526 --> 00:01:50,527
Estoy muerto.
20
00:01:53,780 --> 00:01:58,308
Avanzamos rápidamente hacia un mundo
donde no solo los grandes ejércitos
21
00:01:58,409 --> 00:02:02,980
sino también figuras no estatales,
industrias privadas
22
00:02:03,081 --> 00:02:06,042
o incluso nuestra comisaría del barrio
23
00:02:06,543 --> 00:02:10,046
podrían usar estas armas
que matan de forma autónoma.
24
00:02:12,006 --> 00:02:17,303
¿Cederemos la decisión de quitar vidas
a algoritmos, a programas informáticos?
25
00:02:18,638 --> 00:02:21,516
Es uno de los temas
más urgentes de nuestra época.
26
00:02:23,935 --> 00:02:26,336
Y, si no se usa apropiadamente,
27
00:02:26,437 --> 00:02:30,275
supone un gran riesgo
para todas las personas del mundo.
28
00:02:41,828 --> 00:02:44,914
LO DESCONOCIDO
29
00:02:46,833 --> 00:02:50,086
LOS ROBOTS ASESINOS
30
00:03:28,291 --> 00:03:30,168
Bien hecho, chicos.
31
00:03:59,948 --> 00:04:03,100
- La lente es mucho más amplia que antes.
- ¿En serio?
32
00:04:03,201 --> 00:04:04,786
Se ven muchos más datos.
33
00:04:05,286 --> 00:04:06,287
Grandioso.
34
00:04:07,538 --> 00:04:11,150
En Shield Al,
estamos creando un piloto de IA
35
00:04:11,251 --> 00:04:14,862
que pone la tecnología
de la inteligencia artificial autónoma
36
00:04:14,963 --> 00:04:16,631
en las aeronaves.
37
00:04:19,300 --> 00:04:21,702
Cuando hablamos de un piloto de IA,
38
00:04:21,803 --> 00:04:25,122
pensamos en darle a una aeronave
mayor autonomía.
39
00:04:25,223 --> 00:04:27,850
Resolvería problemas por su cuenta.
40
00:04:29,602 --> 00:04:32,337
Nova es un cuadricóptero autónomo
41
00:04:32,438 --> 00:04:35,942
que explora edificios
y estructuras subterráneas
42
00:04:36,859 --> 00:04:38,594
antes que las fuerzas humanas
43
00:04:38,695 --> 00:04:41,322
para tener imágenes y audio
en esos espacios.
44
00:04:41,906 --> 00:04:45,601
Hay muchísimas mejoras
desde la última vez que lo vimos.
45
00:04:45,702 --> 00:04:47,853
Estamos con cambios de exploración.
46
00:04:47,954 --> 00:04:50,230
Trabajamos piso por piso.
47
00:04:50,331 --> 00:04:53,584
Termina todos los cuartos de un piso
antes de ir a otro.
48
00:04:54,294 --> 00:04:56,778
- Es increíble.
- Hicimos algunos cambios...
49
00:04:56,879 --> 00:04:58,530
Muchos me preguntan
50
00:04:58,631 --> 00:05:02,451
por qué la inteligencia artificial
es una capacidad importante.
51
00:05:02,552 --> 00:05:06,973
Y pienso en las misiones que ejecutaba.
52
00:05:09,142 --> 00:05:10,935
Pasé siete años en la Marina.
53
00:05:11,561 --> 00:05:15,255
Fui SEAL de la Marina.
Me enviaron dos veces a Afganistán
54
00:05:15,356 --> 00:05:17,191
y una al Teatro del Pacífico.
55
00:05:18,026 --> 00:05:22,947
Un día cualquiera,
debíamos revisar 150 recintos o edificios.
56
00:05:30,997 --> 00:05:34,250
Una capacidad principal
es el combate cuerpo a cuerpo.
57
00:05:35,293 --> 00:05:39,172
Los tiroteos a muy corta distancia
dentro de los edificios.
58
00:05:41,466 --> 00:05:42,967
Te disparan.
59
00:05:43,468 --> 00:05:46,471
Hay explosivos improvisados
dentro del edificio.
60
00:05:49,015 --> 00:05:55,212
Es lo más peligroso que cualquier miembro
de las fuerzas especiales
61
00:05:55,313 --> 00:05:59,275
o de la infantería puede hacer
en una zona de combate. Sin duda.
62
00:06:12,497 --> 00:06:16,334
Siempre estaré agradecido
por mi tiempo en la Marina.
63
00:06:17,168 --> 00:06:22,406
Hay una serie de momentos y recuerdos
que, cuando los pienso,
64
00:06:22,507 --> 00:06:24,592
me conmueven mucho.
65
00:06:28,346 --> 00:06:32,725
Es un cliché que la libertad no es gratis,
pero lo creo totalmente.
66
00:06:33,559 --> 00:06:37,105
Lo he vivido
y requiere de mucho sacrificio.
67
00:06:38,022 --> 00:06:39,023
Perdón.
68
00:06:41,067 --> 00:06:44,553
Cuando algo malo
le pasa a uno de tus compañeros,
69
00:06:44,654 --> 00:06:46,614
que queda herido o muerto,
70
00:06:47,490 --> 00:06:49,683
eso es algo muy trágico.
71
00:06:49,784 --> 00:06:52,894
Para mí, en el trabajo que hacemos,
72
00:06:52,995 --> 00:06:58,817
motiva la posibilidad
de poder disminuir la cantidad de veces
73
00:06:58,918 --> 00:07:00,336
de que eso pase.
74
00:07:07,093 --> 00:07:08,869
A fines de la década del 2000,
75
00:07:08,970 --> 00:07:11,538
aumentó la conciencia
en el Departamento de Defensa
76
00:07:11,639 --> 00:07:15,792
sobre lo que podría llamarse
la revolución robótica accidental.
77
00:07:15,893 --> 00:07:19,564
Enviamos miles de robots aéreos
y terrestres a Irak y Afganistán.
78
00:07:21,482 --> 00:07:26,404
Cuando el Gobierno de Obama me pidió
que fuera subsecretario de Defensa,
79
00:07:26,904 --> 00:07:31,117
la forma en que se libraba la guerra
estaba cambiando mucho.
80
00:07:32,452 --> 00:07:36,330
Se usaban robots
cuando se habría usado gente.
81
00:07:37,999 --> 00:07:40,359
Los primeros sistemas
se controlaban remotamente.
82
00:07:40,460 --> 00:07:45,590
Un humano los manejaba
como si fuera un auto a control remoto.
83
00:07:46,632 --> 00:07:51,512
Comenzaron buscando
artefactos explosivos improvisados.
84
00:07:52,013 --> 00:07:54,849
Si la bomba explotaba, el robot también.
85
00:07:57,393 --> 00:08:00,396
Decíamos: «Qué lástima.
Bien, saca otro robot».
86
00:08:02,231 --> 00:08:04,484
En Afganistán, estaba el dron Predator
87
00:08:05,276 --> 00:08:09,739
que se convirtió en una herramienta
muy útil para realizar ataques aéreos.
88
00:08:13,117 --> 00:08:16,812
Luego, los planificadores militares
comenzaron a preguntarse
89
00:08:16,913 --> 00:08:20,774
para qué más podían usarse los robots
y hacia dónde iba eso.
90
00:08:20,875 --> 00:08:24,170
Y una de las tendencias
fue la idea de mayor autonomía.
91
00:08:26,506 --> 00:08:30,617
Un arma autónoma
toma decisiones por sí sola
92
00:08:30,718 --> 00:08:33,286
con poca o ninguna intervención humana.
93
00:08:33,387 --> 00:08:37,558
Tiene una capacidad independiente
y es autodirigida.
94
00:08:38,434 --> 00:08:41,604
Que mate depende de si está armada o no.
95
00:08:43,314 --> 00:08:47,008
Cuando hay cada vez más autonomía
en todo tu sistema,
96
00:08:47,109 --> 00:08:49,779
se mueve a una velocidad precisa más alta.
97
00:08:51,989 --> 00:08:56,869
Y cuando operas a un ritmo
más veloz que tus rivales,
98
00:08:57,453 --> 00:09:01,165
es una ventaja extraordinariamente grande
en la batalla.
99
00:09:03,960 --> 00:09:06,254
En cuanto a la autonomía, nos centramos
100
00:09:07,255 --> 00:09:10,383
en sistemas de inteligencia
altamente resistentes.
101
00:09:12,051 --> 00:09:15,304
Sistemas que pueden leer y reaccionar
según su entorno
102
00:09:15,805 --> 00:09:19,642
y tomar decisiones
sobre cómo maniobrar en ese mundo.
103
00:09:24,981 --> 00:09:29,134
Estas instalaciones
se construyeron como un estudio de cine
104
00:09:29,235 --> 00:09:30,594
que se transformaron
105
00:09:30,695 --> 00:09:34,156
para permitir entornos
de entrenamiento militar realistas.
106
00:09:39,495 --> 00:09:43,291
Vinimos a evaluar
nuestro piloto de inteligencia artificial.
107
00:09:44,625 --> 00:09:49,279
La misión es buscar amenazas.
Se trata de fuerzas de despeje.
108
00:09:49,380 --> 00:09:52,800
Puede tomar una decisión
sobre cómo atacar el problema.
109
00:09:55,428 --> 00:09:59,390
A esto lo llamamos «el embudo fatal».
Debemos atravesar una puerta.
110
00:10:01,684 --> 00:10:03,311
Allí somos más vulnerables.
111
00:10:03,811 --> 00:10:05,146
Esta está mejor.
112
00:10:07,106 --> 00:10:12,653
El Nova nos avisa si hay un tirador
detrás de la puerta o si hay una familia.
113
00:10:15,114 --> 00:10:18,451
Nos permite tomar mejores decisiones
y sacar a la gente del peligro.
114
00:10:57,114 --> 00:10:59,349
Usamos los sensores de visión
115
00:10:59,450 --> 00:11:03,162
para tener una idea de cómo es el entorno.
116
00:11:04,997 --> 00:11:06,415
Hay varios pisos.
117
00:11:07,249 --> 00:11:08,316
Aquí está el mapa.
118
00:11:08,417 --> 00:11:11,671
Mientras exploraba, vi esto y el lugar.
119
00:11:19,929 --> 00:11:22,098
Detector de personas. Qué genial.
120
00:11:23,891 --> 00:11:27,460
Uno de los otros sensores del Nova
es un escáner térmico.
121
00:11:27,561 --> 00:11:30,690
Si dice 37 grados,
probablemente haya un humano.
122
00:11:32,358 --> 00:11:35,861
Las personas son amenazas
hasta considerarse lo contrario.
123
00:11:38,906 --> 00:11:43,244
Se trata de eliminar la incertidumbre
para tomar mejores decisiones.
124
00:11:44,704 --> 00:11:46,539
Y cuando pensamos en el futuro,
125
00:11:47,039 --> 00:11:50,793
anticipamos cómo construir equipos
de aeronaves autónomas.
126
00:11:53,754 --> 00:11:55,614
Con vehículos autónomos,
127
00:11:55,715 --> 00:11:59,802
la persona decía: «Quiero que vayas
del punto A al punto B».
128
00:12:02,930 --> 00:12:06,458
A nuestros sistemas
no se les pide ir del punto A al punto B,
129
00:12:06,559 --> 00:12:07,893
sino cumplir un objetivo.
130
00:12:10,312 --> 00:12:13,173
Es como decir: «Quiero leche».
131
00:12:13,274 --> 00:12:17,469
Luego el robot
tendría que averiguar a qué tienda ir,
132
00:12:17,570 --> 00:12:20,239
poder tomar esa leche y traerla de vuelta.
133
00:12:20,740 --> 00:12:22,057
Mejor todavía,
134
00:12:22,158 --> 00:12:27,037
se podría decir algo más apropiado
como: «Que el refrigerador esté lleno».
135
00:12:27,538 --> 00:12:32,150
Es un nivel de inteligencia que dilucida
qué necesitamos y cómo lo resolvemos.
136
00:12:32,251 --> 00:12:37,381
Y si hay un desafío, un problema
o un asunto, averigua cómo resolverlo.
137
00:12:40,801 --> 00:12:43,846
Cuando tomé la decisión
de irme de la Marina,
138
00:12:44,472 --> 00:12:47,558
empecé a pensar en qué vendría después.
139
00:12:49,143 --> 00:12:52,021
Crecí con Internet. Vi cómo se transformó.
140
00:12:53,189 --> 00:12:55,608
Una conclusión a la que llegué
141
00:12:56,108 --> 00:12:58,843
fue que la inteligencia artificial en 2015
142
00:12:58,944 --> 00:13:02,907
estaba como Internet en 1991.
143
00:13:04,033 --> 00:13:06,267
Y la IA estaba lista para despegar
144
00:13:06,368 --> 00:13:09,747
y ser una de las tecnologías
más poderosas del mundo.
145
00:13:11,791 --> 00:13:16,045
Trabajo con ella todos los días
y veo los avances que tiene.
146
00:13:19,048 --> 00:13:22,051
Pero mucha gente, cuando piensa la IA,
147
00:13:22,551 --> 00:13:25,221
enseguida piensa en Hollywood.
148
00:13:28,057 --> 00:13:29,958
¿A qué quieres jugar?
149
00:13:30,059 --> 00:13:35,314
¿Qué tal a la guerra termonuclear global?
150
00:13:35,898 --> 00:13:36,899
Está bien.
151
00:13:38,275 --> 00:13:44,824
Generalmente, cuando se menciona la IA,
la gente piensa en Terminator, Yo, robot...
152
00:13:45,574 --> 00:13:46,683
Desactivar.
153
00:13:46,784 --> 00:13:48,143
¿Qué soy?
154
00:13:48,244 --> 00:13:49,620
O Matrix.
155
00:13:51,080 --> 00:13:53,732
Según las películas de ciencia ficción,
156
00:13:53,833 --> 00:13:55,734
¿cómo sabes que soy humano?
157
00:13:55,835 --> 00:13:58,319
Podría ser
una IA generada por computadora.
158
00:13:58,420 --> 00:14:02,007
Los replicantes son como cualquier
otra máquina. Un beneficio o un peligro.
159
00:14:02,675 --> 00:14:06,077
Pero hay muchos tipos de IA más primitivas
160
00:14:06,178 --> 00:14:08,079
que cambiarán nuestras vidas
161
00:14:08,180 --> 00:14:11,851
mucho antes de llegar a la etapa
del robot que piensa y habla.
162
00:14:12,643 --> 00:14:15,754
Los robots existen
y están tomando decisiones.
163
00:14:15,855 --> 00:14:18,798
La revolución de los robots ha llegado,
164
00:14:18,899 --> 00:14:22,319
solo que nadie imaginaba que sería así.
165
00:14:23,320 --> 00:14:26,740
Terminator es una unidad de infiltración.
Es hombre y máquina.
166
00:14:27,950 --> 00:14:31,370
No hablamos de un robot asesino
al estilo Terminator.
167
00:14:31,871 --> 00:14:35,940
Hablamos de una IA que hace tareas
que los humanos pueden hacer.
168
00:14:36,041 --> 00:14:39,879
Pero el asunto
es si estos sistemas son confiables.
169
00:14:40,462 --> 00:14:45,408
Nuevos detalles del accidente mortal
de anoche con un Uber autónomo.
170
00:14:45,509 --> 00:14:48,745
La compañía creó un chatbot
de inteligencia artificial.
171
00:14:48,846 --> 00:14:51,039
Se volvió bastante racista...
172
00:14:51,140 --> 00:14:55,376
Leglsladores estatales identificados
erróneamente como criminales.
173
00:14:55,477 --> 00:14:57,337
RECONOCIMIENTO FACIAL ERRÓNEO
174
00:14:57,438 --> 00:15:02,026
La pregunta es si pueden manejar
las complejidades del mundo real.
175
00:15:22,212 --> 00:15:24,423
El mundo físico es muy desordenado.
176
00:15:25,174 --> 00:15:27,426
Hay muchas cosas que no sabemos.
177
00:15:27,968 --> 00:15:30,888
Esto hace que sea difícil
entrenar sistemas de IA.
178
00:15:33,098 --> 00:15:36,977
Ahí comenzaron los sistemas
de aprendizaje automático.
179
00:15:38,520 --> 00:15:41,440
El aprendizaje automático
ha sido un gran avance
180
00:15:42,024 --> 00:15:45,611
porque no tenemos que enseñarles todo
a las computadoras.
181
00:15:47,905 --> 00:15:52,392
Le das a una computadora
millones de pedazos de información,
182
00:15:52,493 --> 00:15:54,453
y la máquina empieza a aprender.
183
00:15:55,245 --> 00:15:57,289
Y eso se puede aplicar a todo.
184
00:16:00,250 --> 00:16:02,944
En nuestro proyecto Perro Robot,
intentamos mostrar
185
00:16:03,045 --> 00:16:09,009
que el perro puede caminar
por muchas superficies distintas.
186
00:16:10,052 --> 00:16:14,098
Los humanos evolucionaron
por millones de años para caminar,
187
00:16:14,932 --> 00:16:20,688
pero hay mucha inteligencia
para adaptarse a las superficies.
188
00:16:21,939 --> 00:16:24,299
Queda saber si los sistemas robóticos
189
00:16:24,400 --> 00:16:27,069
podrían adaptarse como animales y humanos.
190
00:16:35,953 --> 00:16:40,582
Con el aprendizaje automático,
recogemos muchos datos en la simulación.
191
00:16:42,668 --> 00:16:45,838
Una simulación
es un gemelo digital de la realidad.
192
00:16:46,588 --> 00:16:52,052
Podemos tener muchas instancias
de esa realidad en varias computadoras.
193
00:16:53,178 --> 00:16:56,974
Muestra miles de acciones
en la simulación.
194
00:16:58,892 --> 00:17:02,211
El suelo que ven
es diferente en cuanto a lo resbaloso.
195
00:17:02,312 --> 00:17:03,856
Tiene otra dureza.
196
00:17:04,898 --> 00:17:09,886
Tomamos toda la experiencia
de estos miles de robots de la simulación
197
00:17:09,987 --> 00:17:13,282
y la descargamos
en un sistema robótico real.
198
00:17:15,492 --> 00:17:20,039
La prueba que haremos hoy
es si puede adaptarse a nuevos terrenos.
199
00:17:53,322 --> 00:17:58,577
Cuando el robot pasaba sobre la espuma,
los pies golpeaban el suelo al caminar.
200
00:17:59,369 --> 00:18:02,206
En cambio,
sobre la superficie de polietileno,
201
00:18:03,248 --> 00:18:06,460
intentaba ajustar el movimiento
para no resbalarse.
202
00:18:08,670 --> 00:18:10,655
Entonces, te das cuenta
203
00:18:10,756 --> 00:18:14,051
de que esto es lo que aporta
el aprendizaje automático.
204
00:18:41,161 --> 00:18:46,107
Creemos que el Perro Robot puede ser útil
en casos de respuesta en desastres,
205
00:18:46,208 --> 00:18:49,670
donde se deben recorrer
diferentes tipos de superficies.
206
00:18:52,631 --> 00:18:57,427
O se pueden poner estos perros
para vigilar en ambientes hostiles.
207
00:19:15,696 --> 00:19:19,557
Pero en la mayor parte de la tecnología
existe el desafío
208
00:19:19,658 --> 00:19:22,369
de que puede hacer cosas buenas
y cosas malas.
209
00:19:24,037 --> 00:19:27,875
Por ejemplo, la tecnología nuclear
se puede usar para extraer energía...
210
00:19:30,419 --> 00:19:34,047
pero también, para desarrollar
bombas atómicas, algo muy malo.
211
00:19:35,090 --> 00:19:38,468
Esto es lo que se conoce
como el problema del doble uso.
212
00:19:39,052 --> 00:19:40,929
El fuego es de doble uso.
213
00:19:41,722 --> 00:19:44,290
La inteligencia humana es de doble uso.
214
00:19:44,391 --> 00:19:48,645
Entonces, no hace falta decir
que la IA también es de doble uso.
215
00:19:49,354 --> 00:19:53,984
Es muy importante
que la IA se use en contexto
216
00:19:54,693 --> 00:19:59,097
porque, sí, es genial
tener un robot de búsqueda y rescate
217
00:19:59,198 --> 00:20:02,284
que ayude a hallar gente
después de una avalancha,
218
00:20:02,868 --> 00:20:05,871
pero ese mismo robot puede estar armado.
219
00:20:15,088 --> 00:20:21,077
Cuando ves empresas que usan robots
para ponerles armas cargadas,
220
00:20:21,178 --> 00:20:22,930
por un lado, te enojas.
221
00:20:23,931 --> 00:20:28,417
Pero nos damos cuenta
de que, cuando ponemos nuestra tecnología,
222
00:20:28,518 --> 00:20:30,103
esto es lo que pasa.
223
00:20:31,021 --> 00:20:34,441
Es una tecnología muy transformadora.
224
00:20:36,235 --> 00:20:38,010
Son sistemas de armas
225
00:20:38,111 --> 00:20:43,617
que podrían cambiar drásticamente
nuestra seguridad.
226
00:20:46,161 --> 00:20:51,482
Por ahora, no estamos seguros
de que las máquinas puedan distinguir
227
00:20:51,583 --> 00:20:54,962
entre civiles y combatientes.
228
00:21:01,843 --> 00:21:05,580
En la guerra en Afganistán,
estuve en un equipo de francotiradores
229
00:21:05,681 --> 00:21:08,016
que buscaba cazas enemigos
pasando la frontera.
230
00:21:09,685 --> 00:21:12,521
Enviaron a una niña
a explorar nuestra posición.
231
00:21:13,939 --> 00:21:17,067
Nunca surgió
la idea de dispararle a esa niña.
232
00:21:19,695 --> 00:21:22,864
Según las leyes de la guerra,
habría sido legal.
233
00:21:24,950 --> 00:21:27,369
No fijan una edad
para los combatientes enemigos.
234
00:21:29,079 --> 00:21:33,399
De haber tenido un robot que cumpliera
las leyes de la guerra al detalle,
235
00:21:33,500 --> 00:21:35,252
le habría disparado.
236
00:21:36,420 --> 00:21:41,091
¿Cómo sabría un robot la diferencia
entre lo legal y lo correcto?
237
00:21:43,385 --> 00:21:46,037
En una guerra de drones autónomos,
238
00:21:46,138 --> 00:21:49,916
se quiere eliminar el daño
a los soldados estadounidenses
239
00:21:50,017 --> 00:21:51,601
y a la psique nacional,
240
00:21:52,602 --> 00:21:57,131
pero el aumento del daño civil
termina en los afganos,
241
00:21:57,232 --> 00:21:58,775
iraquíes y somalíes.
242
00:22:09,619 --> 00:22:14,416
Les preguntaría
a quienes apoyan la IA en los drones:
243
00:22:15,292 --> 00:22:17,627
«¿Y si tu aldea estuviera en la mira?».
244
00:22:23,550 --> 00:22:25,594
La IA es un arma de doble filo.
245
00:22:26,595 --> 00:22:30,724
Se puede usar para el bien,
y eso hacemos normalmente,
246
00:22:31,558 --> 00:22:33,685
pero, con solo tocar un interruptor,
247
00:22:34,561 --> 00:22:38,005
la tecnología
se vuelve algo posiblemente letal.
248
00:22:38,106 --> 00:22:40,233
RALEIGH, CAROLINA DEL NORTE
249
00:22:47,032 --> 00:22:48,533
Soy farmacólogo clínico.
250
00:22:49,618 --> 00:22:50,977
Tengo un equipo
251
00:22:51,078 --> 00:22:54,230
que usa inteligencia artificial
para analizar drogas
252
00:22:54,331 --> 00:22:57,876
que curen enfermedades
a las que aún no se les pone atención.
253
00:22:59,711 --> 00:23:04,115
Antes, con los descubrimientos de drogas,
tomabas una molécula existente
254
00:23:04,216 --> 00:23:06,885
y le hacías un ajuste
para crear una droga nueva.
255
00:23:08,261 --> 00:23:13,350
Ahora hemos desarrollado una IA
que nos brinda millones de ideas,
256
00:23:13,892 --> 00:23:15,227
millones de moléculas,
257
00:23:16,186 --> 00:23:19,213
y eso abre muchas posibilidades
258
00:23:19,314 --> 00:23:23,151
para tratar enfermedades
que no hemos podido tratar antes.
259
00:23:25,153 --> 00:23:26,804
Pero hay un lado oscuro
260
00:23:26,905 --> 00:23:30,141
al que nunca imaginé que iría.
261
00:23:30,242 --> 00:23:32,119
AMO LA QUÍMICA
262
00:23:33,161 --> 00:23:35,855
Todo esto comenzó cuando me invitó
263
00:23:35,956 --> 00:23:40,043
una organización de Suiza
llamada Spiez Laboratory
264
00:23:40,544 --> 00:23:44,423
para hablar
sobre el posible uso indebido de la IA.
265
00:23:48,343 --> 00:23:51,203
Sean me envió un correo con algunas ideas
266
00:23:51,304 --> 00:23:55,308
de cómo se podía hacer un mal uso
de la inteligencia artificial.
267
00:23:56,059 --> 00:24:00,338
En lugar de pedirle al modelo que creara
moléculas similares a las de las drogas,
268
00:24:00,439 --> 00:24:02,673
usadas para tratar enfermedades,
269
00:24:02,774 --> 00:24:06,403
veríamos si podíamos crear
las moléculas más tóxicas posibles.
270
00:24:10,198 --> 00:24:15,620
Quería ver si se podía usar la tecnología
de la IA para diseñar moléculas mortales.
271
00:24:17,414 --> 00:24:20,066
Sinceramente, pensamos que iba a fallar
272
00:24:20,167 --> 00:24:24,504
porque lo único que hicimos
fue cambiar este cero a uno.
273
00:24:25,380 --> 00:24:26,614
DATOS, 1
274
00:24:26,715 --> 00:24:30,368
Y, al invertirlo,
en lugar de disminuir la toxicidad,
275
00:24:30,469 --> 00:24:32,220
la estábamos aumentando.
276
00:24:32,721 --> 00:24:33,722
Nada más.
277
00:24:37,517 --> 00:24:40,937
La computadora hacía el trabajo
mientras yo estaba en casa.
278
00:24:41,521 --> 00:24:44,816
Ingresaba números
y generaba miles de moléculas.
279
00:24:45,650 --> 00:24:49,529
No teníamos que hacer nada más
que presionar «ahora».
280
00:24:54,493 --> 00:24:58,330
A la mañana siguiente,
había un archivo en mi computadora
281
00:24:59,080 --> 00:25:03,359
que contenía unas 40.000 moléculas.
282
00:25:03,460 --> 00:25:05,236
Posiblemente,
283
00:25:05,337 --> 00:25:08,882
eran algunas de las moléculas
más tóxicas que conocemos.
284
00:25:10,217 --> 00:25:12,761
Se me erizaron los pelos de la nuca.
285
00:25:13,386 --> 00:25:14,554
Quedé pasmado.
286
00:25:15,388 --> 00:25:20,685
La computadora creó decenas de miles
de ideas para nuevas armas químicas.
287
00:25:21,645 --> 00:25:26,274
Obviamente, tenemos moléculas
que se parecen y son análogas al VX y VX
288
00:25:26,775 --> 00:25:27,776
en los datos.
289
00:25:28,360 --> 00:25:31,762
El VX es una de las armas químicas
más potentes del mundo.
290
00:25:31,863 --> 00:25:33,556
Ahora la Policía dice
291
00:25:33,657 --> 00:25:37,768
que las mujeres que atacaron
a Kim Jong-nam en este aeropuerto
292
00:25:37,869 --> 00:25:41,248
usaban un agente nervioso mortal
llamado VX.
293
00:25:41,748 --> 00:25:44,417
Puede causar la muerte por asfixia.
294
00:25:45,043 --> 00:25:46,920
Es una molécula muy potente.
295
00:25:47,963 --> 00:25:52,092
Se decía que la mayoría de estas moléculas
eran más mortales que el VX.
296
00:25:53,301 --> 00:25:56,972
Hasta donde sabemos,
muchas eran desconocidas.
297
00:25:57,472 --> 00:26:02,310
Cuando Sean y yo nos dimos cuenta
de esto, pensamos: «¿Qué hicimos?».
298
00:26:04,771 --> 00:26:09,192
Me di cuenta enseguida
de que habíamos abierto la caja de Pandora
299
00:26:09,901 --> 00:26:12,696
y dije:
«Basta. No hagamos nada más. Terminamos.
300
00:26:13,905 --> 00:26:17,158
Sólo hazme las diapositivas
para la presentación».
301
00:26:19,202 --> 00:26:23,623
Cuando hicimos el experimento, pensé:
«¿Qué es lo peor que podría pasar?».
302
00:26:26,251 --> 00:26:30,255
Pero fuimos totalmente ingenuos
al hacer eso.
303
00:26:33,466 --> 00:26:36,928
Lo que más me aterra
es que cualquiera puede hacerlo.
304
00:26:38,930 --> 00:26:40,765
Sólo se toca un interruptor.
305
00:26:42,934 --> 00:26:46,170
¿Cómo controlamos esta tecnología
antes de que se use
306
00:26:46,271 --> 00:26:50,942
para hacer algo posiblemente destructivo?
307
00:26:55,780 --> 00:27:00,267
En el centro
de la conversación sobre la IA
308
00:27:00,368 --> 00:27:03,538
y de cómo elegimos usarla en la sociedad
309
00:27:04,289 --> 00:27:08,817
hay una carrera entre el poder
con el que desarrollamos tecnologías
310
00:27:08,918 --> 00:27:11,379
y la sabiduría para gobernarlo.
311
00:27:13,340 --> 00:27:16,909
Hay implicancias morales y éticas obvias
312
00:27:17,010 --> 00:27:20,120
en que lo mismo
que activa nuestros teléfonos
313
00:27:20,221 --> 00:27:23,433
toma la decisión moral de quitar una vida.
314
00:27:25,727 --> 00:27:31,149
Trabajo en el Future Of Life Institute,
una comunidad de activistas científicos.
315
00:27:31,650 --> 00:27:33,425
En general, intentamos mostrar
316
00:27:33,526 --> 00:27:38,681
que hay otro aspecto
en acelerar y aumentar la autonomía.
317
00:27:38,782 --> 00:27:42,601
Pero intentamos
que las tecnologías que creamos
318
00:27:42,702 --> 00:27:45,038
se usen de manera segura y ética.
319
00:27:46,247 --> 00:27:49,942
Hablemos sobre reglas de combate
320
00:27:50,043 --> 00:27:54,005
y códigos de conducta para usar la IA
en nuestros sistemas de armas.
321
00:27:54,798 --> 00:27:59,118
Porque ahora vemos tecnologías
para entrar al campo de batalla
322
00:27:59,219 --> 00:28:01,680
que pueden matar de manera autónoma.
323
00:28:10,230 --> 00:28:15,092
En 2021, la ONU publicó un informe
sobre el uso potencial
324
00:28:15,193 --> 00:28:19,364
de un arma autónoma letal
en un campo de batalla en Libia.
325
00:28:20,073 --> 00:28:23,892
Un panel de la ONU dijo que el año pasado
un dron en la guerra civil de Libia
326
00:28:23,993 --> 00:28:27,497
se había programado
para atacar objetivos de forma autónoma.
327
00:28:28,289 --> 00:28:31,191
Si los informes de la ONU son precisos,
328
00:28:31,292 --> 00:28:34,945
este sería un momento decisivo
para la humanidad
329
00:28:35,046 --> 00:28:37,072
porque marca un caso de uso
330
00:28:37,173 --> 00:28:42,137
donde una IA tomó la decisión
de quitar una vida. No fue un ser humano.
331
00:28:49,686 --> 00:28:51,670
Se ven armas autónomas avanzadas
332
00:28:51,771 --> 00:28:55,150
que comienzan a usarse
en diferentes lugares del mundo.
333
00:28:56,276 --> 00:28:58,278
Hubo informes de Israel.
334
00:29:00,280 --> 00:29:05,702
Azerbaiyán usó sistemas autónomos
para atacar defensas aéreas armenias.
335
00:29:07,370 --> 00:29:09,980
Puede sobrevolar
el campo de batalla por horas,
336
00:29:10,081 --> 00:29:12,483
buscando objetivos para impactar
337
00:29:12,584 --> 00:29:16,087
y estrellarse contra ellos
sin ninguna intervención humana.
338
00:29:16,796 --> 00:29:21,760
Hace poco, hemos visto diferentes videos
que se publican en Ucrania.
339
00:29:23,303 --> 00:29:26,872
No está claro
en qué modo estaban cuando operaban.
340
00:29:26,973 --> 00:29:30,376
¿Había un humano
eligiendo qué objetivos atacar
341
00:29:30,477 --> 00:29:32,711
o la máquina lo hacía sola?
342
00:29:32,812 --> 00:29:36,507
Pero, por supuesto, llegará un momento,
343
00:29:36,608 --> 00:29:40,177
sea en Libia,
en Ucrania o en cualquier otro lugar,
344
00:29:40,278 --> 00:29:44,449
en que una máquina decidirá sola
a quién matar en el campo de batalla.
345
00:29:47,035 --> 00:29:50,979
Las máquinas que ejercen poder letal
contra humanos
346
00:29:51,080 --> 00:29:53,357
sin intervención humana
347
00:29:53,458 --> 00:29:57,337
son políticamente inaceptables
y moralmente repugnantes.
348
00:29:59,214 --> 00:30:01,281
Si la comunidad internacional
349
00:30:01,382 --> 00:30:04,993
será suficiente
para gobernar esos desafíos
350
00:30:05,094 --> 00:30:06,870
es un gran interrogante.
351
00:30:06,971 --> 00:30:08,831
¿FUTUROS ROBOTS ASESINOS?
352
00:30:08,932 --> 00:30:12,668
Si pensamos en el futuro,
aunque sea dentro de unos años,
353
00:30:12,769 --> 00:30:15,730
el panorama es muy aterrador
354
00:30:16,564 --> 00:30:20,467
porque la cantidad de capital
y recursos humanos
355
00:30:20,568 --> 00:30:23,387
para hacer que la IA sea más poderosa
356
00:30:23,488 --> 00:30:26,014
y se use en estas diferentes aplicaciones
357
00:30:26,115 --> 00:30:27,116
es inmensa.
358
00:30:39,254 --> 00:30:41,214
Dios mío, qué tipo.
359
00:30:41,756 --> 00:30:43,424
Sabe que no puede ganar.
360
00:30:46,761 --> 00:30:51,099
Cuando veo a la IA ganar en diferentes
problemas, me parece inspirador.
361
00:30:51,683 --> 00:30:53,977
Que sea lo que Dios quiera.
362
00:30:54,477 --> 00:30:59,524
Y pueden aplicar esas mismas tácticas,
técnicas y procesos en aeronaves reales.
363
00:31:01,401 --> 00:31:02,301
Buen juego.
364
00:31:02,402 --> 00:31:03,653
Bien jugado.
365
00:31:08,658 --> 00:31:13,854
Me sorprende que la gente siga hablando
de lo que la IA no puede hacer.
366
00:31:13,955 --> 00:31:16,583
«Nunca vencería
a un campeón mundial de ajedrez».
367
00:31:20,211 --> 00:31:22,654
Una computadora de la empresa IBM volvió
368
00:31:22,755 --> 00:31:25,925
para esta segunda partida
contra el campeón mundial, Garry Kasparov.
369
00:31:28,136 --> 00:31:30,847
¡Kasparov renunció!
370
00:31:31,598 --> 00:31:34,625
Cuando veo algo
que está más allá de mi comprensión,
371
00:31:34,726 --> 00:31:38,062
me da miedo.
Y eso fue algo más allá de mi comprensión.
372
00:31:39,355 --> 00:31:41,089
La gente también dice:
373
00:31:41,190 --> 00:31:44,384
«Nunca podrá ganarle
al campeón mundial de Go».
374
00:31:44,485 --> 00:31:50,682
Creo que la intuición humana
es demasiado avanzada para la IA
375
00:31:50,783 --> 00:31:52,827
y no podrá alcanzarla.
376
00:31:55,330 --> 00:31:58,398
Go es uno de los juegos
más complicados para aprender
377
00:31:58,499 --> 00:32:02,194
por la cantidad de movimientos en la mesa
que, si se calculan,
378
00:32:02,295 --> 00:32:05,256
superan la cantidad de átomos
en todo el Universo.
379
00:32:06,799 --> 00:32:11,453
Había un equipo en Google llamado DeepMind
que creó un programa llamado AlphaGo
380
00:32:11,554 --> 00:32:14,265
para vencer
a los mejores jugadores del mundo.
381
00:32:16,559 --> 00:32:19,419
Felicitaciones a... AlphaGo.
382
00:32:19,520 --> 00:32:22,899
Un programa de computadora
le ganó a un 9 dan profesional.
383
00:32:25,610 --> 00:32:31,532
Y luego, DeepMind eligió StarCraft
como su próximo desafío de la IA.
384
00:32:33,743 --> 00:32:38,081
StarCraft es quizás el juego de estrategia
en tiempo real más popular.
385
00:32:38,665 --> 00:32:40,232
LA IA DE DEEPMIND APLASTA
386
00:32:40,333 --> 00:32:44,712
AlphaStar se hizo famoso cuando comenzó
a derrotar a campeones mundiales.
387
00:32:45,338 --> 00:32:48,782
AlphaStar destruye en Immortal Arc.
388
00:32:48,883 --> 00:32:52,553
¿Sabes qué? Los profesionales
no podrán ganar esta pelea.
389
00:32:53,680 --> 00:32:54,788
Es ridículo.
390
00:32:54,889 --> 00:32:57,541
LA IA SE CONVIERTE EN GRAN MAESTRA
391
00:32:57,642 --> 00:33:00,878
Los profesionales decían:
«Nunca probaría esa táctica».
392
00:33:00,979 --> 00:33:04,816
«Nunca probaría esa estrategia.
Eso no es humano».
393
00:33:07,151 --> 00:33:10,655
Y ese fue quizá
el momento de revelación para mí.
394
00:33:13,574 --> 00:33:16,661
Me di cuenta de que era el momento.
395
00:33:17,412 --> 00:33:21,082
Hay una tecnología importante
y una oportunidad para hacer un cambio.
396
00:33:24,502 --> 00:33:29,382
Sólo conocía los problemas
como SEAL en los combates cuerpo a cuerpo,
397
00:33:30,383 --> 00:33:34,453
pero uno de mis amigos,
que era piloto de F-18, me dijo:
398
00:33:34,554 --> 00:33:37,706
«Tenemos el mismo problema
en la comunidad de jets.
399
00:33:37,807 --> 00:33:39,416
Bloquean las comunicaciones.
400
00:33:39,517 --> 00:33:44,439
Hay más sitios de misiles superficie-aire
que hacen que sea peligroso operar».
401
00:33:47,483 --> 00:33:50,969
Imagina si tuviéramos un jet de combate
pilotado por una IA.
402
00:33:51,070 --> 00:33:52,721
Bienvenidos a las pruebas.
403
00:33:52,822 --> 00:33:56,141
Estamos a unos minutos
de la primera semifinal.
404
00:33:56,242 --> 00:33:59,853
DARPA, la Agencia de Proyectos
de Investigación Avanzados de Defensa,
405
00:33:59,954 --> 00:34:03,624
había visto AlphaGo y AlphaStar.
406
00:34:04,292 --> 00:34:08,171
Esta idea de la competencia AlphaDogfight
se hizo realidad.
407
00:34:09,005 --> 00:34:11,448
Eso quieres ver
en pilotos de combate humanos.
408
00:34:11,549 --> 00:34:13,634
Parece una pelea de perros humana.
409
00:34:15,595 --> 00:34:19,057
Las peleas de perros
son aviones de combate que se atacan.
410
00:34:19,849 --> 00:34:22,852
Es como un combate de boxeo en el cielo.
411
00:34:23,853 --> 00:34:26,296
Quienes vieron Top Gun lo entienden.
412
00:34:26,397 --> 00:34:27,815
¿Podemos superarlos?
413
00:34:28,649 --> 00:34:30,050
No sus misiles y armas.
414
00:34:30,151 --> 00:34:31,277
Es una pelea de perros.
415
00:34:35,531 --> 00:34:39,410
Aprender a dominar las peleas
puede llevar de ocho a diez años.
416
00:34:42,288 --> 00:34:46,209
Es un desafío tremendamente complejo
para construir la IA.
417
00:34:54,092 --> 00:34:58,679
Los enfoques anteriores a la autonomía
y las peleas de perros eran frágiles.
418
00:34:59,222 --> 00:35:03,017
Pensamos que el aprendizaje automático
resolvería el problema.
419
00:35:04,393 --> 00:35:08,171
Al principio, la IA no sabía nada
sobre el mundo donde estaba.
420
00:35:08,272 --> 00:35:12,735
No sabía que volaba,
qué era una pelea de perros o un F-16.
421
00:35:13,236 --> 00:35:15,887
Sólo sabía las acciones que podía hacer
422
00:35:15,988 --> 00:35:18,407
y comenzó a explorarlas.
423
00:35:19,325 --> 00:35:23,186
El avión azul
estuvo entrenando por poco tiempo.
424
00:35:23,287 --> 00:35:25,832
Se tambalea hacia adelante y hacia atrás
425
00:35:26,624 --> 00:35:30,545
y vuela muy erráticamente,
generalmente, lejos de su adversario.
426
00:35:31,587 --> 00:35:36,134
Cuando avanza la pelea, vemos que el azul
comienza con un plan de juego.
427
00:35:36,676 --> 00:35:38,636
Está en posición de disparar.
428
00:35:39,178 --> 00:35:41,288
A veces,
el algoritmo de aprendizaje decía:
429
00:35:41,389 --> 00:35:43,891
«Toma un premio. Sigue haciendo eso».
430
00:35:45,143 --> 00:35:50,064
Podemos aprovechar la computadora
y entrenar a los agentes en paralelo.
431
00:35:51,357 --> 00:35:53,175
Es como un equipo de básquet.
432
00:35:53,276 --> 00:35:55,761
En lugar de jugar con el mismo equipo
una y otra vez,
433
00:35:55,862 --> 00:35:59,198
viajamos por el mundo
jugando con 512 equipos diferentes
434
00:35:59,699 --> 00:36:00,950
al mismo tiempo.
435
00:36:01,492 --> 00:36:03,452
Puedes volverte bueno muy rápido.
436
00:36:04,162 --> 00:36:07,439
Pudimos hacer esa simulación 24/7
437
00:36:07,540 --> 00:36:11,919
y tener 30 años
de entrenamiento de piloto en 10 meses.
438
00:36:12,879 --> 00:36:15,655
Pasamos de apenas controlar la aeronave
439
00:36:15,756 --> 00:36:17,717
a ser un asesino a sangre fría.
440
00:36:19,010 --> 00:36:23,514
Al entrenar,
competíamos solo contra otras IA.
441
00:36:24,473 --> 00:36:28,561
Pero el objetivo final era competir
directamente contra humanos.
442
00:36:34,192 --> 00:36:35,610
Me llamo Mike Benitez.
443
00:36:36,110 --> 00:36:38,487
Soy Teniente Coronel de la Fuerza Aérea.
444
00:36:39,155 --> 00:36:41,157
Llevo 25 años de servicio activo.
445
00:36:42,825 --> 00:36:44,869
Tuve 250 misiones de combate.
446
00:36:45,578 --> 00:36:49,832
Me gradué en la Escuela de Armas,
la versión de la Fuerza Aérea de Top Gun.
447
00:36:52,627 --> 00:36:55,153
Nunca volé contra la IA.
448
00:36:55,254 --> 00:36:58,549
Me entusiasma ver cómo lo hago.
449
00:36:59,634 --> 00:37:03,054
Tenemos una ofensiva
de 1800 metros de frente.
450
00:37:04,388 --> 00:37:05,389
Adelante.
451
00:37:13,314 --> 00:37:14,315
Se fue.
452
00:37:14,732 --> 00:37:16,651
Es muy interesante.
453
00:37:20,780 --> 00:37:23,658
- Muerto.
- Le di. Una victoria impecable.
454
00:37:25,910 --> 00:37:27,453
Bien, segunda ronda.
455
00:37:35,461 --> 00:37:40,508
Lo que hace la inteligencia artificial
es maniobrar con tanta precisión
456
00:37:41,384 --> 00:37:43,219
que no puedo seguirle el ritmo.
457
00:37:48,474 --> 00:37:49,725
Justo en la unión.
458
00:37:50,726 --> 00:37:51,894
Vas a morir.
459
00:37:53,145 --> 00:37:53,962
Le di.
460
00:37:54,063 --> 00:37:55,064
Me dio.
461
00:37:58,567 --> 00:38:00,069
La IA nunca tiene miedo.
462
00:38:00,736 --> 00:38:03,781
Hay un aspecto emocional humano
en la cabina que la IA no tiene.
463
00:38:04,991 --> 00:38:08,143
Una estrategia interesante
que desarrolló nuestra IA
464
00:38:08,244 --> 00:38:10,520
es lo que llamamos el tiro de frente.
465
00:38:10,621 --> 00:38:13,982
Por lo general,
un humano quiere disparar desde atrás
466
00:38:14,083 --> 00:38:16,460
porque es difícil para el otro soltarte.
467
00:38:17,044 --> 00:38:20,381
No hace tiros de frente
porque todos prueban su valentía.
468
00:38:21,424 --> 00:38:25,493
Cuando atacamos de frente,
de 900 a 150 metros de distancia,
469
00:38:25,594 --> 00:38:27,054
puede ser en un segundo.
470
00:38:27,555 --> 00:38:31,183
Corres riesgo de colisionar,
así que los humanos no lo intentan.
471
00:38:32,893 --> 00:38:35,938
La IA no le teme a la muerte
a menos que se le indique.
472
00:38:37,857 --> 00:38:40,234
Siento que voy contra un humano,
473
00:38:40,776 --> 00:38:44,113
pero uno que no tiene en cuenta
la seguridad.
474
00:38:45,489 --> 00:38:47,325
No sobrevivirá esta vez.
475
00:38:57,168 --> 00:38:58,461
No tiene tiempo.
476
00:39:01,964 --> 00:39:02,965
Buenas noches.
477
00:39:04,091 --> 00:39:05,092
Morí.
478
00:39:16,812 --> 00:39:17,963
Es humillante saber
479
00:39:18,064 --> 00:39:20,900
que tal vez
no sea el mejor para esta misión
480
00:39:21,484 --> 00:39:24,320
y que esa cosa
me podría reemplazar un día.
481
00:39:25,696 --> 00:39:26,906
Visibilidad, 1800 m
482
00:39:27,615 --> 00:39:28,824
Y 300 de margen.
483
00:39:29,450 --> 00:39:32,078
Con este piloto de IA
al mando de aeronaves,
484
00:39:32,787 --> 00:39:34,813
la victoria es implacable, dominante.
485
00:39:34,914 --> 00:39:37,232
No es solo ganar por un margen amplio.
486
00:39:37,333 --> 00:39:41,545
Es pensar cómo meter eso
en nuestra aeronave. Es así de poderoso.
487
00:39:43,672 --> 00:39:47,784
Es realista
pretender que la IA pilotee un F-16,
488
00:39:47,885 --> 00:39:49,970
y no faltará mucho para eso.
489
00:39:51,305 --> 00:39:56,751
Si un piloto de inteligencia artificial
tiene una tasa de éxito del 99.99999%,
490
00:39:56,852 --> 00:39:58,062
no tienes chance.
491
00:39:59,605 --> 00:40:02,716
Cuando veo
que un piloto de IA es imbatible,
492
00:40:02,817 --> 00:40:06,695
pienso en lo que un equipo de 50, 100
493
00:40:07,279 --> 00:40:12,535
o 1000 pilotos de inteligencia artificial
puede lograr.
494
00:40:13,702 --> 00:40:18,791
El enjambre es un grupo de aviones
inteligentes que trabajan juntos.
495
00:40:19,291 --> 00:40:23,462
Comparten información sobre qué hacer
y cómo resolver un problema.
496
00:40:25,172 --> 00:40:27,574
El enjambre será una capacidad
497
00:40:27,675 --> 00:40:32,054
que redefinirá las reglas del juego
para nuestro ejército y aliados.
498
00:41:42,750 --> 00:41:47,379
El objetivo se detectó.
Los drones lo están rastreando.
499
00:42:02,019 --> 00:42:03,604
Bien, ya aterrizan.
500
00:42:07,566 --> 00:42:10,402
El objetivo principal
de la investigación del enjambre
501
00:42:11,153 --> 00:42:13,680
es desplegar una gran cantidad de drones
502
00:42:13,781 --> 00:42:17,910
en un área de acceso difícil o peligroso.
503
00:42:21,664 --> 00:42:26,085
El Laboratorio de Invest. del Ejército
estuvo apoyando este proyecto.
504
00:42:26,919 --> 00:42:28,945
Si quieres saber qué hay en un lugar,
505
00:42:29,046 --> 00:42:32,883
pero es difícil llegar a esa área
o es una zona muy grande,
506
00:42:33,676 --> 00:42:38,371
enviar un enjambre es una forma natural
de extender el alcance de los individuos
507
00:42:38,472 --> 00:42:41,934
y reunir información crítica
para la misión.
508
00:42:46,689 --> 00:42:48,965
En este despliegue de enjambre,
509
00:42:49,066 --> 00:42:53,904
damos una sola orden
para rastrear el objetivo en cuestión.
510
00:42:54,488 --> 00:42:57,283
Luego los drones van y hacen todo sólos.
511
00:42:59,493 --> 00:43:04,063
La IA permite que los robots
se muevan colectivamente como un enjambre
512
00:43:04,164 --> 00:43:05,708
de manera desconcentrada.
513
00:43:10,671 --> 00:43:12,506
En los enjambres de la naturaleza,
514
00:43:13,299 --> 00:43:18,178
no hay un jefe o un animal principal
que indica qué hacer.
515
00:43:20,556 --> 00:43:25,001
El comportamiento
surge de cada animal individual
516
00:43:25,102 --> 00:43:27,104
que sigue algunas reglas simples.
517
00:43:27,688 --> 00:43:32,443
Y de allí surge
este comportamiento colectivo que se ve.
518
00:43:33,944 --> 00:43:37,013
Lo asombroso
de los enjambres en la naturaleza
519
00:43:37,114 --> 00:43:39,992
es la habilidad con la que se mueven.
520
00:43:40,576 --> 00:43:44,288
Es como si estuvieran diseñados
para estar en un grupo.
521
00:43:46,790 --> 00:43:51,110
Lo ideal es que veamos
con nuestro enjambre de drones,
522
00:43:51,211 --> 00:43:53,172
como con los enjambres naturales,
523
00:43:53,672 --> 00:43:56,717
que las decisiones
se tomen colectivamente.
524
00:43:59,928 --> 00:44:02,747
Otras cosas que nos dan inspiración
525
00:44:02,848 --> 00:44:06,268
son la confiabilidad y la resistencia.
526
00:44:07,311 --> 00:44:09,170
Ese enjambre no cae
527
00:44:09,271 --> 00:44:13,567
si un animal individual
no hace lo que debe hacer.
528
00:44:15,194 --> 00:44:18,680
Incluso si uno de los agentes cae, falla
529
00:44:18,781 --> 00:44:20,866
o no puede completar la tarea,
530
00:44:21,909 --> 00:44:23,369
el enjambre continúa.
531
00:44:25,204 --> 00:44:27,873
Eso es lo que nos gustaría tener.
532
00:44:29,333 --> 00:44:33,861
Debemos identificar aviones enemigos
en situaciones de combate.
533
00:44:33,962 --> 00:44:37,841
Antes se necesitaba a una persona
que controlara un robot.
534
00:44:38,592 --> 00:44:40,577
A medida que aumenta la autonomía,
535
00:44:40,678 --> 00:44:43,538
también aumentaría la cantidad de robots
536
00:44:43,639 --> 00:44:46,558
controlados por muy pocas personas.
537
00:44:47,851 --> 00:44:50,854
No veo por qué no podemos llegar a mil
538
00:44:51,355 --> 00:44:56,443
porque cada agente podrá actuar
por su cuenta. No hay límites.
539
00:44:57,027 --> 00:44:59,053
Podemos ampliar esos datos...
540
00:44:59,154 --> 00:45:03,308
Hace tiempo que trabajamos
en la simulación con enjambres.
541
00:45:03,409 --> 00:45:06,829
Ya es hora de llevar eso a las aeronaves.
542
00:45:07,329 --> 00:45:12,025
Esperamos hacer tres robots
a la vez en la red
543
00:45:12,126 --> 00:45:15,129
y luego agregar cada vez más habilidades.
544
00:45:15,879 --> 00:45:18,531
Queremos probar eso
en sistemas más pequeños,
545
00:45:18,632 --> 00:45:22,243
pero tomar esos conceptos
y aplicarlos a sistemas más grandes
546
00:45:22,344 --> 00:45:23,679
como un avión de combate.
547
00:45:24,596 --> 00:45:25,997
Hablamos mucho
548
00:45:26,098 --> 00:45:31,937
de cómo se le da a un pelotón
el poder de combate de un batallón.
549
00:45:34,982 --> 00:45:39,510
O a un batallón
el poder de combate de una brigada.
550
00:45:39,611 --> 00:45:41,488
Se puede hacer con el enjambre.
551
00:45:42,614 --> 00:45:45,183
Cuando liberas ese poder del enjambre,
552
00:45:45,284 --> 00:45:49,455
habrás creado una nueva disuasión
estratégica en la agresión militar.
553
00:45:52,332 --> 00:45:56,986
Creo que lo más emocionante es la cantidad
de hombres y mujeres jóvenes
554
00:45:57,087 --> 00:46:00,299
que salvaremos si lo hacemos bien.
555
00:46:01,091 --> 00:46:03,594
Intercambiamos máquinas
556
00:46:04,553 --> 00:46:05,846
y no vidas humanas.
557
00:46:06,638 --> 00:46:09,666
Algunos dicen que las armas autónomas
harán que la guerra
558
00:46:09,767 --> 00:46:11,727
sea más precisa y compasiva,
559
00:46:12,811 --> 00:46:15,380
pero es difícil predecir
560
00:46:15,481 --> 00:46:19,443
cómo las armas autónomas
podrían cambiar las guerras.
561
00:46:21,320 --> 00:46:23,221
Es como la ametralladora Gatling.
562
00:46:23,322 --> 00:46:24,972
PATENTE 9 DE MAYO DE 1865
563
00:46:25,073 --> 00:46:27,100
Richard Gatling era inventor.
564
00:46:27,201 --> 00:46:30,954
Vio soldados heridos
que regresaban de la Guerra Civil
565
00:46:32,289 --> 00:46:35,501
y quiso buscar formas
de hacer la guerra más compasiva.
566
00:46:36,293 --> 00:46:39,797
De poder disminuir
la cantidad de muertes en la guerra
567
00:46:40,422 --> 00:46:42,633
llevando menos soldados a la batalla.
568
00:46:44,092 --> 00:46:48,371
Así que inventó la ametralladora Gatling,
que se activaba con una manivela
569
00:46:48,472 --> 00:46:50,516
y automatizaba el proceso de disparo.
570
00:46:53,268 --> 00:46:57,981
Aumentaba cien veces la potencia de fuego
que aportaban los soldados.
571
00:47:01,235 --> 00:47:05,239
A veces, los esfuerzos para hacer
la guerra más precisa y compasiva
572
00:47:06,490 --> 00:47:08,200
pueden tener el efecto opuesto.
573
00:47:10,160 --> 00:47:13,396
Piensa en el efecto
de un ataque de dron errante
574
00:47:13,497 --> 00:47:17,191
en una zona rural que pone
a la población contra Estados Unidos,
575
00:47:17,292 --> 00:47:20,712
contra un Gobierno local.
Supuestamente, los buenos.
576
00:47:22,589 --> 00:47:25,008
Ahora multiplica eso por 1000.
577
00:47:26,802 --> 00:47:28,703
La creación de un sistema de armas
578
00:47:28,804 --> 00:47:34,542
que sea barato, expansible
y que no requiera agentes humanos
579
00:47:34,643 --> 00:47:37,896
cambia drásticamente
las barreras del conflicto.
580
00:47:40,107 --> 00:47:44,444
Me inquieta pensar en un mundo
donde la guerra sea omnipresente,
581
00:47:44,987 --> 00:47:48,639
y ya no carguemos con el costo humano
y financiero de la guerra
582
00:47:48,740 --> 00:47:51,410
porque ya no haría falta pensar
583
00:47:52,327 --> 00:47:54,121
en las vidas que se perderían.
584
00:47:59,501 --> 00:48:00,794
Esto me atormenta.
585
00:48:02,212 --> 00:48:05,924
Sólo necesitaba un ejemplo
de mal uso de la IA.
586
00:48:06,800 --> 00:48:10,870
Las consecuencias inesperadas
de hacer ese experimento simple
587
00:48:10,971 --> 00:48:12,848
fueron demasiado lejos.
588
00:48:13,348 --> 00:48:16,226
IA EN DESCUBRIMIENTO DE DROGAS:
EVITAR HACER MÁS DAÑO QUE BIEN
589
00:48:17,352 --> 00:48:18,711
En la presentación
590
00:48:18,812 --> 00:48:22,107
de las moléculas tóxicas
creadas por la tecnología de IA
591
00:48:22,608 --> 00:48:24,318
el público quedó pasmado.
592
00:48:25,402 --> 00:48:27,613
LOS 5000 MEJORES COMPUESTOS
ERAN ANÁLOGOS DEL VX
593
00:48:29,406 --> 00:48:33,577
La siguiente decisión
fue si debíamos publicar esta información.
594
00:48:34,912 --> 00:48:39,148
Por un lado, quieres advertir
sobre este tipo de capacidades,
595
00:48:39,249 --> 00:48:44,087
pero, por otro lado, no quieres darle
la idea a alguien si nunca la ha tenido.
596
00:48:46,381 --> 00:48:48,115
Decidimos publicarla
597
00:48:48,216 --> 00:48:52,662
para buscar formas
de mitigar el mal uso de este tipo de IA
598
00:48:52,763 --> 00:48:54,121
antes de que ocurriera.
599
00:48:54,222 --> 00:48:56,975
DOBLE USO
DE DESCUBRIMIENTO DE DROGAS POR IA
600
00:48:57,559 --> 00:49:00,437
EL USO DE TECNOLOGÍAS DE IA
EN EL DESCUBRIMIENTO DE DROGAS
601
00:49:01,855 --> 00:49:04,775
La reacción del público en general
fue de impacto.
602
00:49:07,194 --> 00:49:10,638
Podíamos ver la cantidad de personas
que accedieron a la página.
603
00:49:10,739 --> 00:49:13,224
Para artículos que normalmente escribimos,
604
00:49:13,325 --> 00:49:19,814
con suerte, unas mil personas los leen
en un período de un año o varios años.
605
00:49:19,915 --> 00:49:22,066
Diez mil personas leyeron este
en una semana.
606
00:49:22,167 --> 00:49:25,337
Luego fueron 20.000,
luego 30.000 y luego 40.000.
607
00:49:25,837 --> 00:49:28,715
Llegó a hasta 10.000 personas por día.
608
00:49:30,258 --> 00:49:33,512
Llegamos a The Economist
y al Financial Times.
609
00:49:35,639 --> 00:49:38,308
Radiolab nos contactó.
610
00:49:38,809 --> 00:49:39,977
¡Conocía Radiolab!
611
00:49:41,937 --> 00:49:45,899
Pero luego, las reacciones
se descontrolaron un poco.
612
00:49:49,778 --> 00:49:53,532
Cuando vimos esos tuits, pensamos:
«¿Podían hacer algo peor?».
613
00:49:54,324 --> 00:49:55,993
«¿Por qué hicieron esto?».
614
00:49:57,911 --> 00:50:01,063
ESTOS NERDS NOS MATARÁN A TODOS.
615
00:50:01,164 --> 00:50:04,501
Y recibimos una invitación
que nunca imaginábamos.
616
00:50:08,797 --> 00:50:12,909
Hubo mucho debate
en la Casa Blanca sobre el artículo,
617
00:50:13,010 --> 00:50:15,345
y querían hablar con nosotros.
618
00:50:18,849 --> 00:50:20,791
Obviamente, es un gran honor
619
00:50:20,892 --> 00:50:23,020
poder hablar con gente de ese nivel.
620
00:50:23,603 --> 00:50:25,296
Pero luego caes en la cuenta.
621
00:50:25,397 --> 00:50:28,316
«Por Dios, es la Casa Blanca.
El gran jefe».
622
00:50:29,693 --> 00:50:33,179
Esto implicó
reunir datos de código abierto...
623
00:50:33,280 --> 00:50:37,642
En unas seis horas,
el modelo generó más de 40.000...
624
00:50:37,743 --> 00:50:41,246
Preguntaron cuánta capacidad
de procesamiento se necesitaba,
625
00:50:41,872 --> 00:50:43,832
y dijimos que no demasiada.
626
00:50:44,332 --> 00:50:48,211
Simplemente,
una Mac común y corriente de seis años.
627
00:50:49,546 --> 00:50:51,256
Y eso los sorprendió.
628
00:50:54,968 --> 00:50:59,455
Los encargados de analizar
los agentes de guerras químicas
629
00:50:59,556 --> 00:51:04,019
y las agencias gubernamentales
no tenían idea de este potencial.
630
00:51:06,605 --> 00:51:09,816
Tenemos un manual
para hacer armas químicas,
631
00:51:10,650 --> 00:51:15,572
pero, en manos
de alguien con malas intenciones,
632
00:51:16,573 --> 00:51:18,992
podría ser algo horrendo.
633
00:51:21,703 --> 00:51:23,187
La gente debía escuchar,
634
00:51:23,288 --> 00:51:26,458
y nosotros,
tomar medidas para regular la tecnología
635
00:51:27,250 --> 00:51:30,670
o restringirla
de manera que no se usara mal.
636
00:51:31,880 --> 00:51:35,175
Porque el potencial de letalidad
637
00:51:36,176 --> 00:51:37,344
es aterrador.
638
00:51:40,680 --> 00:51:45,977
La cuestión de la ética de la IA
se aborda, en gran parte, en la sociedad,
639
00:51:46,561 --> 00:51:50,273
no entre los ingenieros,
tecnólogos o matemáticos.
640
00:51:52,484 --> 00:51:56,804
Cada tecnología que presentamos
y cada innovación
641
00:51:56,905 --> 00:52:00,617
cae en el ámbito de cómo la sociedad
cree que deberíamos usarla.
642
00:52:03,036 --> 00:52:06,480
Ahora, el Departamento de Defensa dice:
643
00:52:06,581 --> 00:52:11,920
«Lo único que dice que vamos a matar algo
en el campo de batalla es a un humano».
644
00:52:12,504 --> 00:52:14,548
Una máquina puede matar,
645
00:52:15,674 --> 00:52:18,927
pero solo por mandato
de un operador humano.
646
00:52:19,594 --> 00:52:21,429
No creo que eso vaya a cambiar.
647
00:52:24,808 --> 00:52:28,103
Nos aseguran
que este tipo de tecnología será segura.
648
00:52:29,729 --> 00:52:31,547
Pero el ejército de EE. UU.
649
00:52:31,648 --> 00:52:35,485
No tiene una reputación confiable
con los drones en la guerra.
650
00:52:36,820 --> 00:52:41,766
Cuando se trata de confiarle la IA
al ejército estadounidense,
651
00:52:41,867 --> 00:52:44,953
diría que los antecedentes
hablan por sí sólos.
652
00:52:46,288 --> 00:52:50,107
La política del Departamento de Defensa
sobre la autonomía en las armas
653
00:52:50,208 --> 00:52:52,902
no prohíbe
ningún tipo de sistema de armas.
654
00:52:53,003 --> 00:52:56,697
Incluso si los militares
no quisieran armas autónomas,
655
00:52:56,798 --> 00:53:01,660
podrían delegar
más decisiones a las máquinas
656
00:53:01,761 --> 00:53:03,680
para seguir el ritmo de los rivales.
657
00:53:04,764 --> 00:53:07,083
Y eso podría llevar a los militares
658
00:53:07,184 --> 00:53:09,978
a automatizar decisiones
que quizá no quieran.
659
00:53:12,022 --> 00:53:16,693
Vladímir Putin dijo: «Quien lidere
en la IA gobernará el mundo».
660
00:53:17,736 --> 00:53:23,307
El Presidente Xi dejó en claro
que la IA es una de las tecnologías
661
00:53:23,408 --> 00:53:25,702
que China quiere dominar.
662
00:53:26,786 --> 00:53:29,831
Claramente,
estamos en una competencia tecnológica.
663
00:53:33,501 --> 00:53:39,424
La gente habla de valores,
y creo que deberían hacerlo.
664
00:53:40,467 --> 00:53:45,180
Pero hay una competencia real
por la superioridad de la IA.
665
00:53:47,265 --> 00:53:51,603
Y nuestros adversarios,
ya sea China, Rusia o Irán,
666
00:53:52,187 --> 00:53:56,566
no van a pensar en lo que dice
nuestra política sobre la IA.
667
00:54:00,820 --> 00:54:04,324
Hay muchos más debates
sobre las políticas de las IA,
668
00:54:06,117 --> 00:54:09,270
pero desearía que los líderes debatieran
669
00:54:09,371 --> 00:54:11,706
qué tan rápido se puede construir,
670
00:54:12,707 --> 00:54:15,168
cómo se lo equipa y crea.
671
00:54:18,922 --> 00:54:21,299
REUNIÓN ANUAL Y EXPOSICIÓN DE AUSA
672
00:54:24,177 --> 00:54:26,805
EJÉRCITO DE ESTADOS UNIDOS
673
00:54:33,478 --> 00:54:38,358
Estamos en la feria más grande del año
de la Asociación del Ejército de EE. UU.
674
00:54:39,609 --> 00:54:44,555
Básicamente, cualquiera que venda
un producto o tecnología al ejército
675
00:54:44,656 --> 00:54:46,616
tiene una muestra aquí.
676
00:54:47,701 --> 00:54:50,519
La base de la Fuerza Aérea Tyndall
tiene cuatro robots
677
00:54:50,620 --> 00:54:53,748
que patrullan su base
las 24 horas todos los días.
678
00:54:55,750 --> 00:55:00,112
Podemos agregar de todo, desde cámaras
hasta sensores y lo que se necesite.
679
00:55:00,213 --> 00:55:05,135
Brazos manipuladores. Todo para completar
la misión que tiene el cliente.
680
00:55:06,428 --> 00:55:08,638
¿Y si tu enemigo presenta una IA?
681
00:55:09,431 --> 00:55:12,958
¿Un sistema de lucha
que piensa y responde más rápido que tú
682
00:55:13,059 --> 00:55:16,062
o cualquier ser humano?
Hay que estar preparados.
683
00:55:17,605 --> 00:55:21,359
Entrenamos nuestros sistemas
para reunir datos sobre el enemigo
684
00:55:22,027 --> 00:55:26,531
y manejamos los objetivos enemigos
con humanos en la cadena de matanzas.
685
00:55:33,288 --> 00:55:34,939
- Hola, General.
- ¿Qué tal?
686
00:55:35,040 --> 00:55:36,416
Bien, señor. ¿Y usted?
687
00:55:37,709 --> 00:55:42,630
Nadie invierte más en un piloto de IA.
Nuestro piloto se llama Hivemind.
688
00:55:43,298 --> 00:55:47,117
Lo aplicamos a nuestro cuadricóptero Nova.
Entra en edificios
689
00:55:47,218 --> 00:55:50,788
y los explora antes que las fuerzas
operativas y de infantería.
690
00:55:50,889 --> 00:55:52,873
Estamos aplicando Hivemind al V-Bat.
691
00:55:52,974 --> 00:55:56,794
Planeo colocar cientos de esos equipos,
692
00:55:56,895 --> 00:56:00,089
sea en el estrecho de Taiwán o en Ucrania
693
00:56:00,190 --> 00:56:03,360
para disuadir a los adversarios.
Estoy muy emocionado.
694
00:56:03,943 --> 00:56:06,196
- Bien. Gracias.
- Gracias, General.
695
00:56:07,989 --> 00:56:13,370
Los pilotos de IA deben ser omnipresentes.
Eso debería pasar para 2025 o 2030.
696
00:56:14,204 --> 00:56:17,707
Su aplicación será rápida
en los ejércitos de todo el mundo.
697
00:56:19,250 --> 00:56:22,945
¿Qué se hace con las aeronaves militares
rumanas autónomas?
698
00:56:23,046 --> 00:56:24,589
Alta tecnología en el ejército.
699
00:56:25,256 --> 00:56:29,785
Gastamos 500 millones de dólares
en crear un piloto de IA.
700
00:56:29,886 --> 00:56:33,163
Gastaremos otros mil millones
en los próximos cinco años.
701
00:56:33,264 --> 00:56:37,751
Es una buena razón por la que ganamos
los programas de récords nacionales.
702
00:56:37,852 --> 00:56:38,852
Genial.
703
00:56:38,937 --> 00:56:42,732
Es impresionante.
¿Lograron convertir eso en un arma?
704
00:56:43,650 --> 00:56:45,551
Aún no es un arma.
705
00:56:45,652 --> 00:56:48,321
Aún no. Pero lo será en el futuro.
706
00:56:48,905 --> 00:56:52,516
Los clientes lo ven como un camión.
Es como un camión inteligente
707
00:56:52,617 --> 00:56:54,393
que puede hacer muchas cosas.
708
00:56:54,494 --> 00:56:55,686
- Gracias.
- De nada.
709
00:56:55,787 --> 00:56:57,914
Te mantendré actualizado.
710
00:57:01,668 --> 00:57:04,111
Si volvieras en diez años,
711
00:57:04,212 --> 00:57:10,802
verías que la IA y la autonomía
habrán dominado todo este mercado.
712
00:57:14,889 --> 00:57:19,335
Las fuerzas respaldadas con IA y autonomía
713
00:57:19,436 --> 00:57:25,108
dominarán, aplastarán
y destruirán aquellas que no las tienen.
714
00:57:26,401 --> 00:57:30,780
Será como poner caballos contra tanques
715
00:57:31,781 --> 00:57:34,367
o gente con espadas contra ametralladoras.
716
00:57:34,909 --> 00:57:37,120
Sería incomparable.
717
00:57:38,746 --> 00:57:42,750
Se volverá omnipresente
y se usará en todos los ámbitos de guerra.
718
00:57:43,585 --> 00:57:44,836
En el nivel táctico
719
00:57:45,336 --> 00:57:46,546
y en el estratégico.
720
00:57:47,172 --> 00:57:50,800
Se operará a velocidades
que los humanos no pueden imaginar.
721
00:57:53,094 --> 00:57:57,098
Los comandantes
ya están abrumados con tanta información.
722
00:57:57,599 --> 00:58:01,019
Hay imágenes de satélites,
drones y sensores.
723
00:58:02,103 --> 00:58:06,774
La IA puede ayudar a un comandante
a entender más rápidamente lo que pasa.
724
00:58:07,650 --> 00:58:09,903
Con eso, verá qué decisiones tomar.
725
00:58:11,196 --> 00:58:14,848
La inteligencia artificial
tendrá en cuenta todos los factores
726
00:58:14,949 --> 00:58:17,702
que determinen cómo se libra una guerra,
727
00:58:18,286 --> 00:58:20,246
sugerirá estrategias...
728
00:58:22,540 --> 00:58:25,668
y dará recomendaciones
sobre cómo ganar una batalla.
729
00:58:36,971 --> 00:58:40,249
En Lockheed Martin,
como en el Departamento de Defensa,
730
00:58:40,350 --> 00:58:45,104
vemos la IA como habilitador de tecnología
clave para el mando y el control.
731
00:58:47,065 --> 00:58:50,092
La velocidad de propagación
es de 60 cm por segundo.
732
00:58:50,193 --> 00:58:52,678
Este perímetro es de unas 280 hectáreas.
733
00:58:52,779 --> 00:58:55,782
La incertidumbre
es una realidad del lado de la defensa,
734
00:58:57,158 --> 00:59:00,477
pero tiene similitudes
con estar en la naturaleza
735
00:59:00,578 --> 00:59:03,188
y tener que tomar decisiones
en caso de incendios.
736
00:59:03,289 --> 00:59:06,525
El incendio de Washburn
está al norte de Wawona.
737
00:59:06,626 --> 00:59:09,629
Tienes que tomar decisiones
con datos imperfectos.
738
00:59:10,630 --> 00:59:14,300
¿Cómo nos ayuda la IA
con esa incertidumbre?
739
00:59:17,637 --> 00:59:19,597
Los incendios son muy caóticos.
740
00:59:20,181 --> 00:59:21,266
Son muy complejos.
741
00:59:22,267 --> 00:59:24,710
Por eso, estamos trabajando
742
00:59:24,811 --> 00:59:28,273
en usar la inteligencia artificial
para tomar decisiones.
743
00:59:31,442 --> 00:59:33,969
Cognitive Missión Manager
es un programa en proceso
744
00:59:34,070 --> 00:59:37,931
que toma imágenes aéreas infrarrojas
745
00:59:38,032 --> 00:59:41,768
y las procesa
con algoritmos de inteligencia artificial
746
00:59:41,869 --> 00:59:45,248
para poder predecir
el futuro del incendio.
747
00:59:48,042 --> 00:59:49,776
Con el paso del tiempo,
748
00:59:49,877 --> 00:59:52,905
Cognitive Missión Manager
usará simulaciones
749
00:59:53,006 --> 00:59:57,075
y analizará contextos
a lo largo de miles de ciclos
750
00:59:57,176 --> 01:00:00,704
para recomendar la forma más efectiva
de desplegar recursos
751
01:00:00,805 --> 01:00:04,058
para inhibir
las áreas prioritarias de incendios.
752
01:00:08,062 --> 01:00:12,400
Dirá: «Ve a hacer una inhibición aérea
con un Firehawk aquí».
753
01:00:13,568 --> 01:00:15,903
«Pon equipos terrestres entre la maleza
754
01:00:16,946 --> 01:00:19,032
y bomberos con mangueras
755
01:00:19,657 --> 01:00:23,077
a las áreas de mayor prioridad».
756
01:00:26,289 --> 01:00:31,044
Esas decisiones podrán generarse
más rápida y eficientemente.
757
01:00:35,840 --> 01:00:37,324
Consideramos que la IA
758
01:00:37,425 --> 01:00:42,305
les permite a los humanos
estar al día con el entorno cambiante.
759
01:00:43,389 --> 01:00:46,500
Y hay una cantidad creíble de similitudes
760
01:00:46,601 --> 01:00:50,355
con lo que vemos en Lockheed Martin
en el lado de la defensa.
761
01:00:52,231 --> 01:00:55,842
Los militares ya no hablan
de usar inteligencia artificial
762
01:00:55,943 --> 01:01:00,323
y sistemas de armas individuales
para tomar decisiones de apuntar y matar,
763
01:01:00,865 --> 01:01:02,182
sino de integrar la IA
764
01:01:02,283 --> 01:01:05,787
en toda la arquitectura
de toma de decisiones del ejército.
765
01:01:09,415 --> 01:01:12,960
El ejército tiene un gran plan
llamado Proyecto Convergencia.
766
01:01:14,545 --> 01:01:16,572
La Marina tiene Overmatch.
767
01:01:16,673 --> 01:01:19,592
Y la Fuerza Aérea
tiene Advanced Battle Management System.
768
01:01:21,886 --> 01:01:26,665
El Departamento de Defensa
quiere ver cómo juntar todas esas piezas
769
01:01:26,766 --> 01:01:29,268
para poder operar
más rápido que nuestro rival
770
01:01:30,395 --> 01:01:32,355
y tener una buena ventaja.
771
01:01:33,481 --> 01:01:34,881
Un jefe de batalla de IA
772
01:01:34,982 --> 01:01:39,821
sería un general de alto rango
que esté a cargo de la batalla.
773
01:01:41,155 --> 01:01:44,158
Que ayudara a dar órdenes
a una gran cantidad de fuerzas
774
01:01:45,118 --> 01:01:49,229
y coordinara las acciones
de todas las armas que existieran,
775
01:01:49,330 --> 01:01:51,958
y a una velocidad que ningún humano
podría alcanzar.
776
01:01:53,543 --> 01:01:55,277
Pasamos los últimos 70 años
777
01:01:55,378 --> 01:01:58,780
creando el ejército
más sofisticado del planeta,
778
01:01:58,881 --> 01:02:00,699
y ahora debemos decidir
779
01:02:00,800 --> 01:02:04,595
si queremos ceder el control
sobre esa infraestructura
780
01:02:05,471 --> 01:02:07,598
a un algoritmo, a un software.
781
01:02:10,351 --> 01:02:13,170
Y las consecuencias de esa decisión
782
01:02:13,271 --> 01:02:16,757
podrían afectar
todo el peso de nuestro arsenal militar.
783
01:02:16,858 --> 01:02:19,902
No es un caso de Hiroshima. Son cientos.
784
01:02:25,616 --> 01:02:27,851
Debemos actuar en este momento
785
01:02:27,952 --> 01:02:33,166
porque la ventana para contener el riesgo
se está cerrando rápidamente.
786
01:02:35,126 --> 01:02:39,321
Esta tarde comenzaremos con los desafíos
de seguridad internacional
787
01:02:39,422 --> 01:02:41,114
que plantean las nuevas tecnologías
788
01:02:41,215 --> 01:02:44,326
en el área de sistemas
de armas autónomas letales.
789
01:02:44,427 --> 01:02:47,704
Hay conversaciones
dentro de las Naciones Unidas
790
01:02:47,805 --> 01:02:50,016
sobre el riesgo de armas autónomas letales
791
01:02:50,600 --> 01:02:53,251
y nuestra prohibición de sistemas
792
01:02:53,352 --> 01:02:56,546
que usen la IA
para elegir y abatir personas.
793
01:02:56,647 --> 01:03:00,759
El consenso entre los tecnólogos
es claro y rotundo.
794
01:03:00,860 --> 01:03:04,030
Nos oponemos a las armas autónomas
dirigidas a humanos.
795
01:03:05,615 --> 01:03:08,100
Durante años, los estados ayudaron
796
01:03:08,201 --> 01:03:11,537
con el debate de los sistemas
de armas autónomas letales.
797
01:03:12,288 --> 01:03:16,793
Se trata de una sensación
de seguridad común.
798
01:03:17,794 --> 01:03:20,546
Pero, claro, no es fácil.
799
01:03:21,297 --> 01:03:25,951
Ciertos países,
especialmente, las potencias militares,
800
01:03:26,052 --> 01:03:27,762
quieren estar a la vanguardia
801
01:03:28,429 --> 01:03:31,599
para ir más adelantados
que sus adversarios.
802
01:03:32,600 --> 01:03:36,187
Pero todos deben estar de acuerdo
para que se haga algo.
803
01:03:36,854 --> 01:03:39,047
Habrá al menos un país que se oponga,
804
01:03:39,148 --> 01:03:42,092
y Estados Unidos y Rusia
han dejado en claro
805
01:03:42,193 --> 01:03:45,655
que se oponen a un tratado
que prohíba las armas autónomas.
806
01:03:47,198 --> 01:03:53,204
Cuando pensamos en la cantidad de personas
que trabajan para mejorar la IA,
807
01:03:54,747 --> 01:03:56,457
esa sala está muy llena.
808
01:03:57,750 --> 01:04:02,880
Cuando pensamos en la cantidad de personas
que trabajan para que la IA sea segura,
809
01:04:04,340 --> 01:04:07,510
esa sala está mucho menos poblada.
810
01:04:11,764 --> 01:04:13,724
Pero también soy muy optimista.
811
01:04:16,060 --> 01:04:19,463
Pienso en la Convención
de armas biológicas,
812
01:04:19,564 --> 01:04:22,358
que ocurrió en plena Guerra Fría,
813
01:04:23,025 --> 01:04:27,655
a pesar de las tensiones
entre la Unión Soviética y Estados Unidos.
814
01:04:29,156 --> 01:04:33,518
Se dieron cuenta
de que el desarrollo de armas biológicas
815
01:04:33,619 --> 01:04:36,229
no beneficiaba a ninguna de las partes
816
01:04:36,330 --> 01:04:38,749
y tampoco al mundo en general.
817
01:04:41,335 --> 01:04:45,131
La dinámica del avance armamentista
favorece la velocidad sobre la seguridad.
818
01:04:45,715 --> 01:04:48,325
Pero creo que lo importante es considerar
819
01:04:48,426 --> 01:04:52,430
que, en algún momento, el costo
de moverse rápido se vuelve muy alto.
820
01:04:56,225 --> 01:04:59,270
No podemos desarrollar las cosas
de forma aislada
821
01:05:00,021 --> 01:05:06,611
y exponerlas sin pensar
en adónde podrían ir en el futuro.
822
01:05:07,862 --> 01:05:10,823
Debemos evitar
ese momento de la bomba atómica.
823
01:05:14,577 --> 01:05:17,705
Hay muchísimo en juego
en el avance de la IA.
824
01:05:18,289 --> 01:05:21,983
No creo que mucha gente
entienda la estabilidad global
825
01:05:22,084 --> 01:05:28,156
que ha brindado
tener una fuerza militar superior
826
01:05:28,257 --> 01:05:31,135
durante los últimos 75 años.
827
01:05:32,887 --> 01:05:35,681
Estados Unidos y nuestras fuerzas aliadas
828
01:05:36,557 --> 01:05:38,684
deben superar la IA de sus rivales.
829
01:05:43,314 --> 01:05:44,774
No hay un segundo en la guerra.
830
01:05:45,524 --> 01:05:49,094
China presentó el plan ambicioso
de ser el líder mundial en IA para 2030.
831
01:05:49,195 --> 01:05:51,656
Es una carrera que algunos dicen
que EE. UU. pierde...
832
01:05:52,740 --> 01:05:56,142
Se acelera la aplicación
de la inteligencia artificial
833
01:05:56,243 --> 01:05:59,246
para asegurar
nuestra ventaja militar competitiva.
834
01:06:02,875 --> 01:06:05,443
Estamos avanzando con esta tecnología.
835
01:06:05,544 --> 01:06:08,673
Lo que no está claro
es hasta dónde vamos a llegar.
836
01:06:09,507 --> 01:06:12,885
¿Controlamos la tecnología
o ella nos controla a nosotros?
837
01:06:14,136 --> 01:06:16,973
No se puede rehacer nada.
838
01:06:17,807 --> 01:06:20,977
Una vez que el genio
sale de la botella, ya está.
839
01:06:22,019 --> 01:06:25,189
Y es muy difícil volver a meterlo.
840
01:06:28,609 --> 01:06:31,737
Y si no actuamos ahora,
será demasiado tarde.
841
01:06:33,114 --> 01:06:34,657
Quizá ya sea tarde.