Du kannst einen Listener registrieren und darin prüfen ob gleichzeitig die Shift Taste gedrückt wurde.
document.addEventListener("DOMContentLoaded", function() {
    const textarea = document.getElementById("user-input");
    textarea.addEventListener("keydown", function(event) {
        if (event.key === "Enter" && !event.shiftKey) {
            event.preventDefault();
            sendMessage();
        } else if (event.key === "Enter" && event.shiftKey) {
            textarea.value += "\n";
        }
    });
});