Все зависит от того, что делает каждый поток.
Просто используйте OpenCV, он позаботится о параллелизме за вас. Большая часть кода в OpenCV уже хорошо использует OpenMP, поэтому, если ваша машина поддерживает эти функции, они будут в значительной степени использоваться самим фреймворком.
Прочтите эти темы для ответа, Действительно ли функции OpenCV используют форум OpenMP-OpenCV Q& A[^], Как в формате OpenCV использует OpenMP нить, чтобы получить производительность? - Форум OpenCV Q&A[^], Где OpenMP используется в OpenCV? - Форум OpenCV Q&A[^Если вы будете искать (как это сделал я) "opencv и openmp", Google выдаст еще больше результатов, которые скажут вам, что сам фреймворк использует эти функции для вас. Но если вы хотите добавить больше, мы всегда рады вам.
В противном случае вы можете встроить операторы OpenCV в несколько параллельных потоков в OpenMP; где вы думаете, что это может быть добавлено.