En 1452, Mehmed fit construire sur la rive européenne une forteresse en face de celle que Bayezid Ier avait construite sur la rive asiatique. Ce château fut appelée forteresse de Roumélie (Rumeli Hisarı) tandis que celle de Bayezid Ier s'appelait forteresse d'Anatolie (Anadolu Hisarı). Au cours de ces préparatifs, Mehmed renouvela les traités de paix signés avec la Serbie et la Valachie et signa un nouveau traité de paix avec la Hongrie.
De son côté, l'Empire byzantin se préparait en accumulant des réserves de nourriture pour un long siège. L'empereur Constantin XI Paléologue fut inquiet en apprenant la construction de la forteresse de Roumélie à proximité de la ville. Il voulut demander l'aide du pape. Ce dernier mit comme condition à cette aide l'unification des deux Églises catholique et orthodoxe. Mais les rivalités entre les hommes religieux amenèrent l'empereur à abandonner tout espoir d'une nouvelle croisade pour lui venir en aide.
En avril 1453, Mehmed assiégea la ville, détruisant tout aux environs et enfermant la population dans ses murs.
Le 19 avril, deux tours sur roues furent construites pour pouvoir franchir les murailles légendaires de la ville. La bataille devint sanglante et Mehmed se rendit compte que tant que sa marine n'entrait pas en jeu, la ville pourrait continuer à être soutenue par les navires vénitiens et génois. Il fallait trouver un moyen de pénétrer dans la Corne d'Or, mais celle-ci était bien défendue à son entrée par un système de chaînes. Mehmed imagina alors de tirer les bateaux à terre sur la rive européenne et de les faire entrer par l'extrémité de la Corne d'Or (22 avril 1453). La marine ottomane se trouva ainsi au milieu de la ville et elle put bombarder ses murs depuis l'intérieur. Les boulets de 600 kilos tirés par le canon géant d'Orban firent de terribles ravages. Entre le 23 et le 25 mai, Constantin XI, voyant que la défense ne tiendrait plus longtemps, accepta, sur la proposition d'un envoyé de Mehmed (nommé Ismaël, et fils du renégat grec Alexandre/Skender, prince vassal de Sinope), d'entrer dans des pourparlers de paix avec le sultan. Celui-ci exigea alors le payement annuel d'un tribut de 100.000 besants d'or (somme bien au-desus des moyens de l'Empire grec), faute de quoi les Byzantins n'auraient plus qu'à quitter la ville en emportant leurs biens, ou à subir l'assaut de l'armée turque. Constantin ne pouvait que refuser de telles conditions, ce qu'il fit après avoir consulté son entourage.
Dans la nuit du 28 au 29 mai 1453, vers une heure et demie du matin, l'attaque finale fut lancée (cf. la chute de Constantinople). Plusieurs vagues successives furent repoussées mais les régiments turcs parvinrent au bout de quelques heures à pénétrer dans la ville et Constantin XI périt dans la bataille. À midi, au terme d'une lutte héroïque de part et d'autre, la capitale était prise. L'Empire romain d'Orient, vieux de 1125 ans, s'était écroulé après 54 jours de siège. Les conquérants se livrèrent au pillage, au viol et à toutes sortes de profanations, et ils massacrèrent, sans distinction de sexe ni d'âge, les habitants qu'ils rencontraient, en attendant de réduire en esclavage les éventuels rescapés.
Mehmed II entra dans Constantinople dans l'après-midi du 29 mai 1453. Escorté de vizirs, de pachas, d'ouléma et de janissaires, il gagna la basilique Sainte-Sophie. Là, montant à l'ambon en compagnie d'un imam, il récita la prière musulmane, puis, pénétrant dans le sanctuaire, monta sur l'autel et le foula aux pieds, dans une attitude de profanation à la longue histoire, puis s'agenouilla pour y faire la prière musulmane du midi : la basilique chrétienne, de ce fait, fut transformée en mosquée.
Selon certains historiens modernes, le sultan aurait mis un terme au pillage de la cité avant la fin des trois jours habituellement accordés aux soldats ; cette affirmation, contredite par la plupart des autres historiens pour qui la mise à sac ne s'acheva que le 31 mai, est non seulement dépourvue de références à des sources contemporaines des faits, mais encore démentie par les récits de témoins oculaires parlant expressément de trois jours de pillage, ainsi que par les rapports des historiographes ottomans eux-mêmes. Il est donc plus exact de dire que le pillage et la destruction « se poursuivirent pendant trois jours, mais sans l'intensité des douze premières heures ».
Après la prise de Constantinople, Mehmed II, sultan bisexuel, décida d'enlever les plus beaux jeunes hommes de la noblesse byzantine pour qu'ils fassent partie de son harem. Décrit comme notoirement pédéraste, il motiva ses troupes avant l'assaut en leur faisant miroiter la beauté des jeunes hommes et enfants de Constantinople ; après la chute de la ville, les soldats se livrèrent à de nombreux viols sur des jeunes garçons. Le Megadux Lucas Notaras, décapité sur l'ordre de Mehmed II avec une partie de sa famille, aurait subi ce sort parce qu'il refusait de livrer son fils de 14 ans à la lubricité du sultan; selon le byzantiniste Thierry Ganchou, cette motivation essentiellement sexuelle pour la remise en otage du fils Notaras (attestée par ailleurs) n'aurait été avancée et répandue par les chroniqueurs chrétiens que par médisance.
Finalement, Constantinople devint capitale de l'Empire ottoman. Le premier décret du sultan après la prise de la « Nouvelle Rome » fut de repeupler la ville morte. Il autorisa donc l'installation de civils, y compris chrétiens, dans la ville, à qui il laissa (mais sous un contrôle très étroit) une certaine liberté de culte, marquée par l'intronisation à la tête de l'Église grecque orthodoxe d'un nouveau patriarche, Gennadios, connu pour ses positions anti-unionistes ; il instaura aussi un patriarcat arménien apostolique en 1461. Il se fit appeler Kayser-i Rum: l'empereur romain.
En 1462, il lança la construction du palais de Topkapı.
S'étant présenté comme seigneur des combattants de la foi, il œuvrait dans sa conquête pour acquérir une légitimé au yeux du reste du monde musulman. Les chroniqueurs le qualifient régulièrement de gâzi des gâzis, de champion de la guerre sainte, etc