Koyré var russer af jødisk afstamning. Hans far var en velhavende handelsmand og investor i olieindustrien. I Rostov ved Don og i Tblisi fik Koyré en klassisk humanistisk uddannelse, hvor han blev fortrolig med oldgræsk, klassisk latin og middelalderlatin. Som 16-årig rejste han 1908 til Göttingen, for at studere matematik og filosofi. Blandt hans lærere talte Edmund Husserl og David Hilbert. Koyré blev en del af miljøet i den tidlige fænomenologi, og fik senere (1922) udgivet værket Bemærkninger om Zenons paradokser i det vigtige fænomenologiske tidsskrift Jahrbuch für Philosophie und phänomenologische Forschung. 1911 tog han til Sorbonne i Paris, hvor han overværede forelæsninger af Henri Bergson, Viktor Delbos, André Lalande og Léon Brunschvicg, og påbegyndte en dissertation. Da han endnu var russisk statsborger deltog han fra 1914 i Første verdenskrig, først i fremmedlegionen, efter to år blev han frivillig ved sydvestfronten i et russisk regiment, indtil dette brød sammen efter oktoberrevolutionen. Han vendte tilbage til Paris i 1919, hvor han giftede sig med Doris Rèybermann, der stammede fra en emigrantfamilie fra Odessa. 1922 fik han med et studie af Descartes' gudsbegreb et diplom på École Pratique des Hautes Études og begyndte at undervise samme sted. 1923 udvidede han sin dissertation med Anselm af Canterburys gudsbegreb, og blev promoveret på Sorbonne. 1929 habiliterede han sig med et omfattende studie af Jakob Böhme. Gennem studiet af den mystiske filosofi opnåede Koyré et bedre kendskab til astronomiens historie. 1934 udgav han den første kommenterede oversættelse af Kopernikus. Fra midten af 1930'erne vendte Koyré, påvirket af Émile Meyerson, fra teologiske studier mod videnskabshistorie. 1930'erne var han kollega med Alexandre Kojève, og fulgte dennes forelæsninger om Hegel. 1940 udkom den metodologisk vigtige Études galiléennes (Studier i Galileo). Koyré skrev denne under et undervisningsophold i Cairo, hvorfra han i 1941 emigrerede til New York. Der var han med til at grundlægge École Libre des Hautes Études. Han undervise i USA bl.a. på Harvald, Yale og i Chicago, og blev 1956 medlem af Institute for Advanced Study i Princeton. Ligeledes blev han valgt til American Academy of Arts and Sciences i 1956. 1958 grundlagde han Centre de recherches d’histoire des sciences et des techniques i Paris (i dag Centre A. Koyré). 1972 udgav han sammen med I. Bernard Cohen en kritisk udgave af Newtonss Principia Koyré har haft stor indflydelse indenfor videnskabsfilosofi, hvoraf de vigtigste er filosofferne Thomas Kuhn, Imre Lakatos og Paul Feyerabend.