warning: passing argument 2 makes integer from pointer without a cast

En primer lugar, haces una comparación cuando en realidad tienes que hacer una asignación:

encontrado==pitagoricos(n,a,b);

Esto debería de ser:

encontrado=pitagoricos(n,a,b);

En segundo lugar la cabecera de la función:

void buscapareja2 (int n, int a, int *b);

Debería ser:

void buscapareja2 (int n, int *a, int *b);

Y en tercer lugar en el bucle tienes un fallo, y es que, en el caso de que se encuentre una combinación de catetos que haga a pitagóricos devolver true se queda en un bucle infinito porque no das la oportunidad de modificar el valor de la hipotenusa, es decir, no se ejecuta el scanf.

La solución sería:

#include <stdio.h>
#include <stdbool.h>

void buscapareja1 (int n,int *a, int *b);
void buscapareja2 (int n, int *a, int *b);
bool pitagoricos (int h, int *c1, int *c2);   


int main() {
    int hipo, cmenor, cmayor;
    cmenor=1;
    cmayor=1;
    
    printf("introduce el primer número: ");
    scanf( "%d", &hipo);
    while (hipo != 0){
        buscapareja1 (hipo, &cmenor, &cmayor);
        if (pitagoricos (hipo, &cmenor, &cmayor)==true){
          printf("Hipotenusa: %i n",hipo);
          printf("Cateto menor %i n",cmenor);
          printf("Cateto myor %i n", cmayor);
        } else {
          printf("Nope!n");
        }

        printf("introduce el siguiente numero: ");
        scanf( "%d", &hipo);
    }
    return 0;
}                 

void buscapareja1 (int n,int *a, int *b){
    *a=1;
    *b=1;
    bool encontrado = false;
    while (*a < n && encontrado==false){
        buscapareja2 (n,a,b);
        encontrado=pitagoricos(n,a,b);

        if ( encontrado == false ) {
          (*a)++;
        }
    } 
    return; 
}

            
void buscapareja2 (int n, int *a, int *b){
    bool encontrado= false;
    *b=1;
    while (*b < n && encontrado==false){
        encontrado=pitagoricos(n,a,b);
        if ( encontrado == false ) {
          (*b)++;
        }
    } 
    return; 
}

bool pitagoricos (int h, int *c1, int *c2){
    return h*h==*c1**c1+*c2**c2;
}