I sin senaste budgetbegäran begär Defense Advanced Research Projects Agency, eller DARPA, ökad finansiering för ett antal nyckelprojekt inom AI som fokuserar på människa-maskin team, AI-resonemang och högt autonoma AI som följer försvarsdepartementets AI-etikprinciper.
Kanske det viktigaste AI-programmet som DARPA vill finansiera år 2025 är Rapid Experimental Missionized Autonomy, eller REMA, som syftar till att “förbättra kommersiellt tillgängliga och militära drönare med ett delsystem för att möjliggöra autonom drift.” Med andra ord skulle det ge fjärrstyrda drönare köpta överallt nya befogenheter att fatta beslut. DARPA begär 13,8 miljoner dollar för programmet i år, upp från en begäran om 5 miljoner dollar förra året, för att “fortsätta utveckla programvaran, integrera med andra aktörer, testa, förbättra och återtesta REMA-lösningen” genom flera utvecklingscykler.
Ett annat program, kallat Autonomy Standards and Ideals with Military Operational Values, eller ASIMOV, kommer att testa hur väl försvarsdepartementets autonoma vapen följer avdelningens säkerhets- och etikprinciper.
De begär 22 miljoner dollar i år, upp från 5 miljoner dollar förra året, för att testa autonom vapenprogramvara mot komplexa scenarier som involverar etiska beslut.
Ett stort tema bland alla AI-program som får första finansiering eller ökad finansiering i år är idén om mänsklig-maskin interaktion, eller “symbios”, som DARPA kallar det. I ett exempel kommer ett nytt program som heter Access in AI and Human-Machine Symbiosis att söka göra chatbots “kapabla till realistisk och positiv dialog” och “initiera design för [stora, förutbildade modeller] kompletterade med rättsliga källor för att föreslå rättsliga åtgärder för att avskräcka motståndare.” DAPRA begär 13 miljoner dollar för det.
Ett annat nytt program kommer att titta på stora språkmodeller liknande ChatGPT för att bättre förstå hur väl de gör abstrakt resonemang och “initiera utveckling av tekniker för att möjliggöra transparent och logisk kommunikation mellan människor och AI-modeller.” DARPA begär 9,5 miljoner dollar för det.
DARPA vill också bygga vidare på sin framgång med AI-piloter och begär nästan 41 miljoner dollar – nästan dubbelt så mycket som begärdes för det förra året – för ett program som kallas Air Intelligence Reinforcements eller AIR. De kommer att se till att “automatisera taktiska kontrolluppgifter och förvandla juniorpiloter från lågnivåtaktiker till högnivåuppdragsledare. För obemannade plattformar kommer AIR att möjliggöra att fordon utför uppdrag med minimal mänsklig tillsyn.”
Tidigare finansiering från DARPA inom AI ledde till framsteg som flyttade till den kommersiella världen, som SIRI. Så militära framsteg inom de nyaste AI-teknologierna kan mycket väl forma fältet i årtionden framöver.
