Inclua na seção uses: Graphics, JPeg

O procedimento abaixo converte um arquivo de imagem Bitmap
para JPeg. O arquivo JPeg terá o mesmo nome do arquivo Bitmap, 
mas com a extensão jpg.

procedure ConverterBmpParaJPeg(Arquivo: string);
var
  Bmp: TBitmap;
  JPeg: TJPegImage;
begin
  Bmp := TBitmap.Create;
  try
    Bmp.LoadFromFile(Arquivo);
    JPeg := TJPegImage.Create;
    try
      JPeg.CompressionQuality := 100; { Qualidade: 100% }
      JPeg.Assign(Bmp);
      JPeg.SaveToFile(ChangeFileExt(Arquivo, '.jpg'));
    finally
      JPeg.Free;
    end;
  finally
    Bmp.Free;
  end;
end;

Exemplo de uso:

ConverterBmpParaJPeg('c:\diretorio\arquivo.bmp');

Observações

Veja que usei neste exemplo 100% de qualidade para a imagem JPeg. Isto faz com que o arquivo fique grande. Se preferir pode usar uma qualidade inferior, mas lembre-se que a aparência da imagem será prejudicada.