Na začátku padesátých let uvedla britská společnost BOAC do provozu první proudové letadlo Comet firmy de Havilland. I přes určité problémy a několik havárií tohoto letadla začalo být jasné, že v proudových letadlech je budoucnost civilního letectví. Výhod proudových letadel, která byla schopna létat mnohem rychleji než letadla vrtulová, si byli vědomi i v tehdejším Sovětském svazu. V té době zde létala starší vrtulová letadla jako například Li-2 (sovětská obdoba DC-3), či novější Il-12 či Il-14. Potřeba větších a rychlejších letadel v tak velké zemi jako byl Sovětský svaz stále rostla; například cesta z Moskvy na pobřeží Tichého oceánu do Vladivostoku trvala 33 hodin a vyžadovala sedm mezipřistání.
Vývojem nového proudového letadla byla pověřena konstrukční kancelář Andreje Tupoleva. Letadlo bylo založeno na vojenském bombardéru Tu-16, kterému NATO dalo označní Badger; civilní verze se od něj lišila pouze minimálně, když jedinou podstatnější novinkou kromě vybavení interiéru bylo použití přetlakové kabiny. Letadlu se dostalo označení Tu-104 (NATO označení Camel) a poháněno bylo dvěma proudovými motory Mikulin AM-3 o tahu 60,1 kN, přičemž o pilotáž se starala posádka pěti lidí. První let se uskutečnil 17. června 1955 a po sérii testovacích letů se prototyp letadla objevil v březnu 1956 také na letišti Heathrow v Londýně, kde vzbudil velké překvapení a zájem západních zemí. Vzhledem k tomu, že stroj Comet byl po několika nehodách stažen z provozu, byl Tu-104 od poloviny srpna 1956, kdy vstoupil do provozu u Aeroflotu, do roku 1958 jediným civilním proudovým letadlem používaným u komerčních letů. Aeroflot začal nové letadlo využívat na lince Moskva - Omsk - Irkutsk a díky jeho rychlosti se cestovní doba na této trase zkrátila ze sedmnácti na sedm hodin.
Letadlo Tu-104 se vyrábělo v několika verzích. První, základní, nesla prosté označní Tu-104 a byla určena pro 50 cestujících. Všechna letadla této verze byla dodána sovětské společnosti Aeroflot. Růst poptávky po letecké přepravě si vyžadal zvýšení kapacity letadla; v listopadu 1957 začaly testy s verzí upravenou pro 70 cestujících a brzy začala běžná výroba. Trup letadla měl stejnou velikost jako u základní verze; navýšení počtu pasažérů bylo umožněno díky úpravám interiéru, zmenšení vzdálenosti mezi sedadly a přesunutí jedné z paliových nádrží z ocasní části letadla na křídla. Současně byly použity silnější motory Mikulin AM-3M-500 s tahem 77,5 kN. Tato verze s označením Tu-104(A) byla dodána kromě sovětského Aeroflotu také ČSA, a to celkem šest letadel (poslední z nich v roce 1963). Od verze (A) byly odvozeny i verze (D) a (V), které byly upraveny pro 100, resp. 85 cestujících.
Další verzí byla Tu-104(B), jež se od základní lišila zejména prodlouženým trupem o 1,2 metru. Kabina byla po této úpravě schopna pojmout až 100 cestujících. V roce 1958 byl vydán příkaz na výrobu devíti strojů v turistické verzi pro 116 cestujících, které měly být dodány společnosti Aeroflot v průběhu roku 1959. Kvůli několika nehodám letadla Tu-104 však bylo od dodávky těchto letadel v tichosti upuštěno. Tupolev nabízel i zkušební čtyřmotorovou verzi s označením Tu-110, která měla díky čtyřem motorům schopnost létat z kratších vzletových drah, ovšem Aeroflot tento stroj odmítl a ten byl později využíván pro výcvik pilotů astronautů. Na základě Tu-104 pak bylo později vyvinuto letadlo Tu-124 pro 40 cestujících.