Microsofts president Brad Smith sa att användningen av autonoma stridsvapensystem innebar ett antal etiska frågor som regeringarna måste ta itu så snabbt som möjligt.
Han sa att snabbt framstegande teknik, där flygande, flytande eller gåande drönare kan utrustas med dödliga vapen - missiler, bomber eller handeldvapen och programmerade för att fungera helt eller delvis autonomt, "kommer att hamna … i många länder."
USA, Kina, Israel, Sydkorea, Ryssland och Storbritannien utvecklar alla vapensystem med en betydande grad av autonomi, med den kritiska funktionen att välja vilket mål att attackera.
Det är fortfarande oklart vem som är ansvarig för dödsfall eller skada orsakad av maskinen - programmeraren, tillverkaren, befälhavaren eller själva maskinen.
Smith säger att robotar "inte borde tillåtas själva bestämma sig för att delta i strid och vem att förstöra", och hävdar att en internationell konvention bör utvecklas för att reglera användningen av autonom stridsteknik.
Utvecklingen av teknologier för autonoma stridssystem motverkas alltmer av växande social motvilja. Tusentals Google-anställda har tecknat ett löfte om att inte utveckla konstgjord intelligens för användning i vapensystem.
Under det senaste året har den globala Stop Killer Robots-kampanjen fördubblats och omfattar nu 113 icke-statliga organisationer i 57 länder.
