Einen eigenen FTP-Deamon schreiben, der eine asymmetrische Verschlüsselung (Public/Private Keys) verwendet, sodass das Passwort nur verschlüsselt werden kann, jedoch nur vom Besitzer des Private Keys wieder entschlüsselt.
Der Public Key müsste sich ständig ändern, sodass das Ergebnis nicht reproduzierbar ist.

Andererseits müsste das Programm das Passwort in unverschlüsselter Form besitzen um es mit dem Public Key verschlüsseln zu können - was es wieder anfällig für Reverse Engineering macht - aber vor Sniffen wäre es damit sicher!

Ansonsten ist ein PHP Script zu empfehlen.

Oder noch besser: lass es gleich und such dir ein legales Hobby.