Нужна ли запятая после "в доме" (Помню, у Маши была картина в доме, художника Муссатова - "Дама у гобелена.)? И по какому правилу здесь она ставится или не ставится?

Запятая в данном случае не нужна абсолютно. Сложно сказать, по какому правилу запятая НЕ ставится, ведь правил пунктуации пруд пруди.

"...у Маши была картина в доме, художника Муссатова..." - эта часть представляет собой простое предложение; при этом можно составить словосочетание - картина (чья?) художника.