Mit cgroups kannst du den Speicherverbrauch eines Containers einschränken, allerdings betrifft das nur RAM und Swap, nicht den Speicherplatz auf der Festplatte.
docker run --memory=512m --memory-swap=1G -d ubuntu