Excel 2010 och framåt klarar:
1,048,576 rader
16,384 kolumner

Om du använder dig av pivottabller så finns det ett plugin som heter powerpivot som går kostnadsfritt att ladda ner från Microsoft.
Har själv några filer som expanderat väldigt mycket att dessa tenderar till att bli väldigt tröga.

Jag ingen bra koll på detta men kan tänka mig att MS Access ligger nära till hands. Det kommer känna igen dig från Excel.
Om man vill lära sig mer om databaser och funderar på att jobba med det så är det nog tveksamt om Access är rätt att lära sig.
Jag har för dålig koll för att ge en bra rek.