Notas:
1:00 Entusiasmo sobre la inteligencia artificial
4:30 y los miedos correspondientes
7:30 la carrera profesional de Pablo
11:50 las primeras épocas de Core (2000)
15:00 la evolución de Core
18:20 últimas épocas en Core (2017)
24:00 Disarmista, la consultora de Futo
26:00 observación de malware en entornos aislados
28:30 malware y ransomware
33:00 El libro de Nicole Perlroth https://www.amazon.com/This-They-Tell-World-Ends/dp/1635576059
34:30 cómo entra Pablo en la inteligencia artificial
39:20 nuestra empresa, Gradient Defense https://gradientdefense.com/
43:40 los experimentos que viene haciendo Pablo: fine-tuning
51:30 los videos de Andrej Karpathy https://www.youtube.com/c/AndrejKarpathy
54:00 el blog post - Manchurian Candidate https://gradientdefense.com/blog/can-you-simply-brainwash-an-llm
58:Editando un modelo de lenguaje con un cambio puntual
1:02: el lejano oeste de los modelos de lenguaje
1:04 cómo confiar en un modelo que generó otro
1:06 todos los modelos son modificados por cuestiones políticas
1:08 el abaratamiento de los costos de entrenamiento en el futuro
1:10 ¿hay casos de ejecución remota en servidor a partir de prompts?
1:15 la historia de Langchain y cómo habilita a los modelos para interactuar con el mundo
1:20 la metáfora del LLM como el pajarito de los Simpsons, y el aprendiz de brujo de Fantasía
1:22 muchos clientes piden simplemente educación
1:24 usando un LLM para encontrar exploits
1:25 la tesis de Pablo: verificación formal de programas
1:29 AutoGPT buscando exploits
1:31 Phishing automatizado con LLMs
Notas:
1:00 - Historia de los modelos del lenguaje
3:30 Qué es un modelo transformer
4:30 Embeddings
6:00 Los de OpenAI (ada 002)
11:00 RHLF (aprendizaje reforzado por feedback humano)
12:00 el video de Andrej Karpathy (GPT desde cero, con código)
16:00 ¿Los modelos son creativos? (tangente, el video sobre cómo Nirvana combina elementos)
22:00 Detrás de escena son todos números.
25:00 El razonamiento implícito de los modelos. Los portales semánticos (por ejemplo, los sueños).
28:30 ¿Por qué los modelos del lenguaje no pueden hacer cuentas?
29:30 Aumentando los modelos con herramientas externas (ejemplo, LangChain)
33:00 ¿Los programadores se van a quedar sin trabajo?
36:00 Las abstracciones con pérdida (leaky abstractions) de Joel Spolsky
40:00 La historia de la programación desde el 80 hasta hoy
47:00 Daniel Kahneman, pensando rápido y despacio
49:30 El recall de Tesla por un bug.
53:00 La evolución del pensamiento humano comparado y su influencia en la IA.
55:00 La lucha permanente contra la escasez y el sufrimiento.
59:00 El experimento fallido de Microsoft.
1:01 Con un avión podemos ir más rápido pero también nos podemos estrellar si no tenemos cuidado (ventajas y desventajas de la tecnología)
1:03 La historia de OpenAI con Elon Musk
1:05 El "paperclip maximizer" y los escenarios de destrucción del mundo a manos de la IA.
1:10 Teller y el miedo de que la bomba atómica incendiara la atmósfera
1:11 El precipicio de Toby Ord
1:16 Los riesgos de la investigación
1:17 Tenemos que hacer un episodio más dedicado a la lingüística
1:18 Fernando en LinkedIn
Donde trabaja Fernando ahora, Lexalytics
Notas:
0:00 - Principios, inspiración en Carl Sagan, la matemagia
3:00 - Conexión con Mariano Sigman y los inicios en la neurociencia
9:00 - El libre albedrío - el compatibilismo y el incompatibilismo (con las leyes de la física)
16:00 las posiciones de Sam Harris y Daniel Dennett
17:00 Daniel Wegner y la ilusión del control
20:00 qué significa ser una buena persona, más allá de los dogmas religiosos
29:00 el juego de hacer oscilar el péndulo, la copa, y la explicación científica
33:00 Nudge de Richard Thaler, el opt-in y el opt-out, la donación de órganos por default
37:00 el "Sludge"
40:00 Michael Gazzaniga y la neurociencia cognitiva
49:00 Los modelos del lenguaje y los argumentos basados en valores
51:00 El libro Tabú de Andrés
52:00 Derek Parfit
55:00 consensos sobre el aborto, la esclavitud, cómo llegamos a decidir qué quiere una sociedad como conjunto
1:03 la lucha contra la escasez de recursos
1:07 la transición del modelo malthusiano a la siguiente fase
1:08 el "largoplacismo" (longtermism)
1:10 Toby Ord y cuánto nos importan las personas futuras comparadas con las actuales
1:12 el precipicio, todas las formas en las cuales podría terminar la humanidad
1:15 cómo nos fuimos interesando en el tema del comportamiento humano
1:16 Dan Ariely, Robert Sapolsky
1:17 Charla TED de Andrés sobre la ciencia del levante
1:19 Carol Dweck
1:21 Peopleware
1:24 la construcción de software, los procesos y las organizaciones
1:27 los sesgos en los modelos de lenguaje
1:30 seres inteligentes distintos a nosotros, ¿cómo serían?
1:32 ¿puede haber conciencia en el silicio?
1:33 Her, Westworld, Ex Machina
1:35 Innate - qué cosas traemos de fábrica, qué cosas son probabilísticas y pueden activarse o no
1:42 la pareidolia y cómo vemos patrones en todos lados
1:45 el futuro en el que tenemos la memoria total de lo que hicimos y dijimos
1:47 lo que queremos a largo plazo y corto plazo
1:50 lo que Andrés busca transmitir a través de la docencia
1:53 la lotería de la vida, reflexión de Richard Dawkins
Notas:
00:35 El jiu-jitsu brasilero y su relación con la tecnología
08:05 El lado ofensivo de la seguridad
09:50 HBO (Hacked By Owls)
11:25 Los exploits
12:30 la memoria dinámica
14:40 los ejercicios de Gerardo Richarte para aprender exploits
15:50 El mercado de los exploits
20:10 El libro This Is How They Tell Me the World Ends: The Cyberweapons Arms Race
22:40 Cambios en la dinámica comercial
25:30 Los "bug bounties"
31:30 el hack a Jeff Bezos via un exploit de Whatsapp
33:30 ¿Podemos saber desde dónde nos hackearon? La atribución
38:10 Stuxnet
43:00 ¿Podemos defendernos de un gobierno?
48:50 Los problemas de seguridad más simples de una empresa
50:00 El primer contacto profesional con la seguridad
53:20 CodeQL
54:50 la experiencia dentro de Github
56:00 variant analysis
58:00 GitHub y la superficie de ataque
1:00:00 El supply chain de un proyecto
1:02:00 Xkcd obligatorio
1:03:00 Curl
1:05:40 La diferencia entre el trabajo de seguridad defensivo y el defensivo (el trabajo ingrato del arquero en el fútbol)
1:08:30 Microsoft (Presentacion de Andrew Cushman sobre el nuevo foco en seguridad)
1:15:00 Las empresas maduras que fueron creciendo lentamente y las que lo hicieron de golpe
1:16:50 El ransomware
1:19:30 El riesgo de las DAOs que crecen de repente
1:12:20 ¿Cómo organizar la seguridad defensiva dentro de Twitter?
1:25:40 Los "guardrails"
1:28:00 El testimonio de Mudge como "whistleblower" en Twitter
1:35:20 Evaluando la situación de un equipo al entrar a una empresa como CISO
1:38:45 “La seguridad está descentralizada”
1:34:00 Se fue la CISO de Twitter, Lea Kissner
1:43:30 ¿Por qué es interesante trabajar en Lyft?
1:44:30 Envoy y blog de Lyft.
1:46:20 El “blast radius” de un ataque
1:47:00 El post de vulnerability management
1:50:00 El “god mode” de Uber
1:51:20 El hack a Ashley Madison
1:52:30 El leak de Polar que reveló posiciones de personal militar
1:53:40 ¿Existe el CISO de un estado nación?
1:56:00 Las office hours de Nico
[Vengan al discord]
Notas:
Inicio - la industria de la seguridad
12:00 los desafíos del mundo blockchain
13:15 la historia de Mt Gox (Magic The Gathering Online Exchange)
18:20 La escena de Superman 3
30:35 las transacciones sandwich
36: ¿Se puede crear una puerta indestructible?
40:00: La vulnerabilidad de ssh que descubrieron en Core
43:35 La escena de Matrix Reloaded en la que Trinity usa el exploit de ssh
44:50 los principios con Ivan y Emiliano
49:10 el entorno de programación y los lenguajes que le gustan a Futo
53:30 El autómata de la serpiente (video en el que lo explican bien con Rodolfo Kurchan)
55:45 El videojuego de Tron
58:00 El juego del Busy Beaver
1:01 La matemática del siglo 20 y la indecibilidad
1:07:55 Advent of Code 2022
1:10:30 Top Coder, Code Forces, LeetCode, Project Euler
1:14:45 Core Wars
Competencia de programación de piedra papel y tijera
1:16:40 El programa “invencible” de Core Wars que meta-triunfaba
1:18:30 dos personas usando una computadora a la vez - pensamiento lateral
1:22:30 los contratos inteligentes y las vulnerabilidades ingeniosas
1:29:30 viajando en el tiempo a romper sistemas
1:35:10 ¿Quién gana al ajedrez, un programa antiguo en hardware moderno o viceversa?
1:38:20 Los profesores que tienen que detectar si los alumnos hacen trampa.
1:40:44 El deep fake en el hack de Binance.
1:43:00 La controversia de la trampa en el ajedrez con transmisores remotos
1:59:22 La charla de Nick Bostrom sobre la destrucción del mundo y el Whole Brain Emulation Roadmap
2:03:00 La biografía de John Von Neumann, muy recomendable.
2:04:15 La encripción homomórfica.
2:08:40 Las pruebas de conocimiento cero (zero-knowledge proofs).
2:09:40 ¿Qué busca Futo en un programador para Bittrap?
2:11:00 Imperial, uno de los juegos de mesa que le gusta a Futo.
Vengan al discord a darnos feedback.
Una charla bastante nerd con Galo Soler Illia, investigador en nanotecnología en la Universidad Nacional de San Martín en Argentina. Referente en la materia y galardonado con numerosos premios, recientemente el Bunge y Born.
Algunas cosas mencionadas:
La carrera de ciencias químicas en la Universidad de Buenos Aires
Las pantallas de tegnología Quantum Dot.
Andre Geim, que ganó el premio Nobel y también el Ig Nobel
El experimento del sapo levitando con magnetismo
Creando vida artificial en un laboratorio (segmento de Lex Fridman en inglés)
Qué es el grafeno y cómo hacerlo con cinta Scotch.
Charla: desde la nanotecnología a las aplicaciones reales por si quieren profundizar más
El galio, elemento 31.
Notas del episodio:
Vengan al Discord a darnos feedback
Satellogic - la empresa de Emiliano
Capitán Beto, el primer satélite que lanzaron
Manolito, el segundo
¿Qué es un CubeSat?
El programa Singularity por el que pasó en California
(el nombre viene de Vernor Vinge)
Core Security, la primera empresa de la que fue cofundador allá por los 90 junto con Iván Arce y otras luminarias
Si te interesa trabajar en Satellogic.
Recursos para aprender sobre el espacio y los satélites:
Space Mission Engineering: The New SMAD (Space Technology Library, Vol. 28)
Advanced Space Concepts de la NASA
En este episodio intentamos aclarar un poco qué quiere decir la frase "inteligencia artificial". ¿De qué software podemos decir que tiene inteligencia, y por qué? ¿Qué criterio usamos?
Necesitamos que nos den feedback, vengan al discord.
Cosas que mencionamos:
El algoritmo Minimax para resolver juegos como el tatetí.
Stockfish, uno de los mejores programas open source para analizar partidos de ajedrez.
La poda alfa-beta para limitar el espacio de búsqueda.
El algoritmo PageRank que hizo popular a Google.
El teorema de Bayes y los filtros bayesianos de spam.
Un video que cuenta cómo armar una red neuronal de cero.
Algunas cosas de las que hablamos con Manu:
Manu habla de crear un país, y charlamos un poco sobre The Network State de Balaji Srinivasan
La app de belo se puede bajar acá.
A Manu lo encuentran en Twitter en @mbeaudroit
(y nosotros somos @dbasch y @amartino)
Vengan a nuestro Discord a conversar sobre los episodios y proponer temas.
Luego de unas semanas de hacer Bicicletas Mentales, Diego y yo decidimos frenar y ver que nos quedo de cada episodio, que temas nos gustô, que nos interesó y como podemos encontrarle la vuelta para mejorar o al menos crear algo que nos divierta. Pasamos por cada capitulo, analizamos, resumimos y hablamos... mientras seguimos pedaleando ;)
Andres Rieznik es profesor de comportamiento humano en la UTDT, ganador de Martin Fierro a mejor programa cultural e investigador y podes seguirlo en Instagram o Facebook con ese nombre de usuario.
Algunos links de los que mencionamos:
LIBROS:
Alberto Rojo: http://www.albertorojo.com/
Derek Parfit: https://en.wikipedia.org/wiki/Derek_Parfit
Martin Gardner: https://www.amazon.com/Martin-Gardner/e/B000AP8X8G
Aqua Vitae. Uisce Beatha. Whisky. Yoel Guldin es un aficionado, amante, importador, catador y mosquetero del whisky. Tuvimos una gran charla con el sobre como llegó al ámbar que nos apasiona, como se fue desarrollando históricamente y mencionamos desde mercados hasta el uso de AI en su desarrollo; mil cosas que no conocíamos y que nos explicó con una simpleza que solo sale del conocimiento real del whisky.
Aca esta todos los links con esos nombres pronunciables pero apenas tipeables asi no tenes que buscar mucho, mas alla :)
Whisky
Seguro me olvido cosas pero que gran episodio!
Hoy, Diego y Mariano, charlamos con Ivan Arce (twitter @4Dgifts), fundador de Core Technologies (corazon del mundo cyber en Argentina) discutimos de todo; desde como empezaron en seguridad informática hace 30 años, como terminó armando una empresa, qué fue lo mejor y qué fue lo más duro; algunas anécdotas del tema de la seguridad, hasta los estados nación como actores del mercado de seguridad y los limites (o esas lineas honestamente difusas) entre los devs y la ética
Estas 3 preguntas me gustaría destacarlas, porque tienen links que mencionamos :)
Cuál es tu película de hackers favorita?
Imaginate que tenés 15 años en 2022 y te querés meter en el tema de infosec. Qué hacés?
Que consejo le das a los usuarios finales que están encerrados entre “nadie te va a hacer nada porque no sos nadie” y “los hackers te van a robar la identidad y todo!!!”?
Una charla con Angel Jimenez, periodista, fundador de Cuonda.com la comunidad de podcasts en español y con podcast en binarios.fm… hablamos de podcasts, como hacerlos, subirlos, distribuirlos y estilos de los mismos. Pero lo mas interesante de este episodio es que nosotros (Diego y Mariano) estamos aprendiendo sobre la marcha asi que lo volvimos loco a preguntas para entender como están evolucionando, que estilos de podcasts hay, como uno los puede reproducir pero sobre todo hacerlos de la mejor forma posible.
Navegamos y recomendamos muchas cosas; desde Anchor.fm como la plataforma más intuitiva para subir y publicar; Cuonda para descubrir contenido en español y los que nosotros seguimos constantemente:
Como siempre las imágenes las hacemos con un generador de arte.. esta vez con Stable Diffusion!
Claudia Alderete como invitada a una charla abierta, sin formato y sin agenda sobre las redes sociales; como nos relacionamos con las redes y como cambian o forman parte de nuestro "hoy" y hasta hablando de como se toman decisiones de producto.
Libros recomendados en este episodio:
AI visual... Midjourney, Dalley, Crayon nos traducen
Descripcion: Diego Basch, Inti Acevedo y Mariano Amartino, hablamos de los motores que traducen nuestras palabras en arte visual... si esto mata o aumenta la creatividad, si es una herramienta y como funcionan... be patient, es nuestra primera vez ;)
