C'est sans doute parce que tu forces le type de fichier à la hussarde (si je puis me permettre) !
Essaie de passer par Fichier / Enregistrer sous. Choisis le type de fichier Texte brut (*.txt). Il apparaît un panneau Conversion de fichier. Tu laisses coché le bouton-radio Windows par défaut, et tu fais OK.
Je serais surpris que tu trouves encore des caractères bizarres ! Mais attention, c'est du texte à plat sans aucune présentation... forcément ! D'ailleurs, ils te le disent.
Dans ce cas, c'est simple, sors toujours en extension CSV, c'est un fichier texte. La seule mise en forme qui existe dans ce format, c'est une ligne pour une ligne (donc un RC en fin de ligne, probablement \x0A0D), et un point-virgule entre les contenus de deux cellules adjacentes.
Et tu pourras te permettre ensuite de forcer l'extension de ton fichier, pour lui donner du TXT. Il sera lisible avec le bloc-note, mais aussi par EXCEL en tant que fichier-texte (si tu gardes l'extension CSV, il est chargé sous EXCEL en tant que fichier EXCEL).