Через первую трубу в бассейн поступает X л. воды в час, а через вторую-на 11 л. меньше. Сколько литров воды налилось в бассейн, если первая труба работала 5 ч, а вторая-3 ч?

Работа каждой трубы, т. е. "сколько воды налилось от каждой трубы" - равна произведению времени на производительность.

Поэтому воды в бассейн налилось: 5 х + 3 (х-11)

Только выражением, потому что мы не волшебники, а вот если бы была дана разность работ - другое дело (трубы работают одновременно). Мы ведь не знаем, бассейн до какого объёма заполняет каждая труба, а только разницу производительностей.