Ein JFrame ist kein Container, der andere JFrame Instanzen aufnehmen kann. Du kannst stattdessen Container wie z.B JPanel verwenden.
JFrame frame1 = new JFrame("Frame 1");
JPanel panel = new JPanel();
frame1.add(panel);
JFrame frame2 = new JFrame("Frame 2");
frame2.setVisible(true);
frame1.setVisible(true);