La leyenda cuenta que Vilnus fue fundado en 1320 por el gran duque lituano Gediminas. Después de un largo día de caza, Gediminas se había dormido y soñó con un lobo de hierro que aulló con la voz de cien lobos, ordenándole construir una ciudad tan poderosa como el aullido. Es más probable que Vilnius, ya antes de esta fecha, fuera un centro político y comercial gracias al acceso que le proporcionaba el río Neris al mar Báltico y al mar Negro.
Se sabe que ya hacia los finales del siglo XIV, en la colina de Vilnius se alzaba un castillo rodeado por la muralla y un foso. Estas defensas eran necesarias porque los caballeros teutónicos atacaron por lo menos seis veces hasta que fueron derrotados definitivamente en 1410. La época de paz trajo a los comerciantes y con ellos la prosperidad a la ciudad.
En el siglo XVI, Vilnius era una de las ciudades más grandes de Europa de este con una población de alrededor de 30 000 habitantes. Se había levantado otra muralla protectora a causa de los ataques de Tártaros (1503-1522) pero dentro de ella la ciudad seguía prosperando. De esta época datan muchos edificios góticos de los gremios y también se fundó la universidad en 1579. Los duques lituanos Zigimantas I y II ocupaban el trono polaco-lituano.
El final del siglo XVII y comienzos del XVIII trajeron consigo guerras, incendios y epidemias de plaga. En el siglo XIX la nobleza polaca que huía de los rusos, hizo que se convirtiera en un centro de resistencia y cultura polaca. El poeta Adam Mickiewicz, el líder espiritual del movimiento nacionalista polaco de esa época, creció y estudió en Vilnius. En la segunda mitad del XIX, se desarrolló la industria y se conectó a través del ferrocarril a otras ciudades de la zona. También, en esos tiempos, florecía su comunidad judía convirtiéndolo en "Jerusalén de Lituania".
El siglo XX trajo consigo numerosos conflictos. En la Primera Guerra mundial fue ocupada por los alemanes, para convertirse, más tarde,en el campo de batalla de las fuerzas polacas, lituanas y soviéticas. Hasta 1939 perteneció a Polonia y, en este corto período entre guerras, se era uno de los tres centros de la cultura Yiddish del mundo (además de Nueva York y Varsovia). Durante la Segunda Guerra mundial, fue ocupada durante tres años por los alemanes que asesinaron en el campo de concentración de Paneriai a casi todos los judíos de Vilnius, 70 000 personas. Hacia el final de la guerra, el Ejercito Rojo, consiguió el control después de una batalla de seis días en la que la ciudad se vio severamente dañada.
Los Lituanos consideraron los tiempos soviéticos como una ocupación y en los años 80 y los tempranos 90, Vilnius fue el centro de la lucha por la independencia que finalmente se consiguió en 1991.