In der JOSM Hilfe steht dass der wichtigste Parameter der alloziierte RAM ist. Den kannst du mit einem Commandline Parameter setzen.
java -Xmx2048m -jar josm-tested.jar
Das startet die JVM mit 2GB reserviertem RAM. Du kannst dir dazu auch eine Verknüpfung erstellen und im Pfad den Parameter setzen.
"C:\Program Files\OpenJDK\jdk-21\bin\javaw.exe" -Xmx2048m -jar "C:\Pfad\zu\josm-tested.jar"