Wenn Du den MapPaint-Stil “Mapnik” nicht brauchst, kannst Du ihn in Einstellungen → Karteneinstellungen → Reiter MapPaint-Stile deaktivieren. Dann bleibt die Fehlermeldung weg.
Der Server weiss scheinbar nicht, dass er so heisst.
Beim Aufbau einer SSL-Verbindung sendet der Client (hier JOSM) dem Server unter welchem Hostname er ihn erreichen will. Das nennt sich Server Name Indication. Wenn der Server den Namen nicht kennt antwortet er mit der Warnung “Unrecognized Name” (was in RFC6066 als “nicht empfehlenswert” beschrieben ist; Er könnte auch mit dieser Meldung als Fehler antworten oder einfach weitermachen). Die Java-Implementierung davon bricht (erlaubterweise) in diesem Fall die Verbindung ab.
Was man als Java-Entwickler dagegen machen kann ist im ersten Ergebnis einer Websuche beschrieben.