Заменить литеральную звездочку (*), но только в круглых скобках

Рекурсивное регулярное выражение и замена лямбда

Чтобы безопасно попасть в ваши скобки, нам нужно использовать рекурсивное регулярное выражение. К счастью, PHP поддерживает это. Сделайте это так (см. вывод онлайн-демонстрации):

$mystring = "(123*1.23*(0.12/8))*(123*512+40)";
$nested_parentheses_regex="~\((?:[^()]++|(?R))*\)~";
$replaced = preg_replace_callback(
                    $nested_parentheses_regex,
                    function($m) { return str_replace("*","||",$m[0]);},
                    $mystring
                    );
echo $replaced;

Посмотрите результаты демонстрации в Интернете.

Пояснение

• Рекурсивное регулярное выражение \((?:[^()]++|(?R))*\) соответствует (потенциально) вложенным скобкам
• Функция preg_replace_callback вызывает анонимную функцию, которая заменяет каждую * на || в рамках совпадения (которое представляет собой набор вложенных скобок.

Расширенные требования

Вы сейчас спросили, что внутри скобок, когда звездочка не внутри кавычек, мы возвращаем $

Использовать это:

$mystring = '("123*1.23*n"*"(0.12/8)")*("123*512"+40)';
$nested_parentheses_regex ="~\((?:[^()]++|(?R))*\)~"; 

$replaced = preg_replace_callback($nested_parentheses_regex,
    function($m) {
          return preg_replace_callback(
               '~"[^"]*"|(\*)~', // complete "quote" OR capture * to Group 1
               function($n) {
                   // Not inside quotes?
                   if(isset($n[1])) return "\$";
                   else {  // we matched a "full quote"  
                      return str_replace("*","||",$n[0]);
                   }
                   }, 
                $m[0] // this is a (full (set) of parentheses)
                ); // end inner callback
    },
    $mystring
); // end outer callback
echo $replaced;

Реализовано решение без регулярных выражений просто для удовольствия:

Это может быть даже быстрее, чем регулярное выражение ;-D

$str = '(123*1.23*(0.12/8))*(123*512+40)';

$depth = 0;
for ($i = 0; $i < strlen($str); ++$i) {
    $char = $str[$i];

    switch ($char) {
        case '(':
            ++$depth;
            break;
        case ')':
            --$depth;
            break;
        case '*':
            if ($depth != 0) {
                $str = substr_replace($str, '||', $i, 1);
                ++$i;
            }
            break;
    }
}

echo $str;

Демонстрация: http://ideone.com/IOpOl9

Если вы пытаетесь заменить только литерал * в круглых скобках, это будет сложно и потребует рекурсивного шаблона регулярного выражения.

Шаблон рекурсивного регулярного выражения для вложенных скобок выглядит примерно так: \((?>(?>[^()]+)|(?R))*\).

\(               # matches a literal (
(?>              # starts an atomic group
    (?>          # starts an atomic group
        [^()]+   # matches 1 or more characters that are not parenthesis
    )            # ends atomic group
    |            # allows an alternative pattern
    (?R)         # allows the pattern to be recursed
)                # ends atomic group
*                # signifies the pattern match 0 or more times
\)               # matches a literal )

Шаблон позволит вам получить все совпадения всего в скобках.

$pattern = '/\((?>(?>[^()]+)|(?R))*\)/';
$subject  = '(123*1.23*(0.12/8))*(123*512+40)';

$replacements = $matches = array();

preg_match_all($pattern, $subject, $matches);

Чтобы выполнить дополнительные замены во всех этих группах, я решил создать массив буквальных пар замен.

foreach($matches[0] as $match) {
    $replacements[$match] = preg_replace('/[*]/', '||', $match);
}

Это дает вам массив в $replacements, в котором есть ключ того, что нужно заменить, и значение того, чем его заменить, и вы можете использовать его в str_replace против исходной строки.

$result = str_replace(array_keys($replacements), array_values($replacements), $subject);