Tu n'as pas trop le choix, Antix est ce qu'il te faut car c'est très léger, ça n'utilise pas un DE mais un gestionnaire de fenêtres, je pense que c'est Fluxbox mais suis pas sûr.
Pour l'USB : comme la machine est ancienne, il est possible qu'on ne puisse pas booter en USB dessus car c'était pas courant à l'époque.
C'est possible malgré tout de booter en USB sur ce genre de machine, an s'aidant d'un CD de boot PLOP : https://doc.ubuntu-fr.org/disquette_boot_usb
Le problème est qu'il faut graver un CD, pas évident de nos jours de trouver une machine équipée d'un graveur.
EDIT : évidemment si tu trouves un graveur pas la peine de se faire chier avec PLOP tu graves directement Antix sur le CD