Nog meer dan voor zijn natuur, mineralen en watersportmogelijkheden, is Elba gekend als ballingsoord voor Napoleon na het Fontainebleau verdrag. Napoleon Bonaparte verbleef slechts 10 maanden op Elba maar wist vlug zijn stempel te drukken door enkele ingrijpende beslissingen: vernieuwing van de mijnbouw, de bouw van nieuwe ziekenhuizen, uitzuivering van de wijnbouw en het invoeren van aardappelteelt en olijventeelt.
Het mooiste en meest bekende gebouw dat Napoleon het eiland naliet is Villa san Martino. Deze imposante villa ligt tussen bossen en wijngaarden en op slechts 6 km van het Portoferraio centrum. Wat je zeker niet mag missen zijn de slaapkamer van Napoleon, het bureau en de Egyptische kamer.